AI alat promovira dijalog između ljudi s suprotstavljenim mišljenjima
AI alat promovira dijalog između ljudi s suprotstavljenim mišljenjima
Alat sličan chatu koji podržava umjetna inteligencija (AI) može pomoći ljudima s različitim stavovima da pronađu područja sporazuma. To pokazuje eksperiment s internetskim grupama za raspravu.
Model koji je razvio Google DeepMind u Londonu uspio je sintetizirati različita mišljenja i stvoriti sažetke položaja svake grupe koja je uzela u obzir različite perspektive. Sudionici su preferirali sažetke koje je AI stvorio onima koje su napisali ljudski posrednici. To ukazuje da bi se takvi alati mogli koristiti za podršku složenih savjetovanja. Studija je objavljena 17. listopada u časopisu Science 1 .
"Možete to vidjeti kao dokaz izvedivosti da možete koristiti AI, posebno velike jezične modele, za ispunjavanje dijela funkcije koji trenutno ispunjavaju sastanci i promišljene ankete građana", kaže Christopher Summerfield, ko -autor studije i direktor istraživanja u britanskoj AI sigurnosti. "Ljudi moraju pronaći sličnosti, jer kolektivno djelovanje zahtijeva odobrenje."
kompromisni stroj
Demokratske inicijative poput sastanaka građana, u kojima se od skupina od skupine traži da podijele svoje mišljenje o političkim pitanjima, osiguravaju da političari čuju različite perspektive. Međutim, širenje ovih inicijativa može biti teško jer su ove rasprave često ograničene na male skupine kako bi se osiguralo da se svi glasovi čuju.
Znatiželjno je istraživanje o mogućnostima velikih jezičnih modela (LLMS), Summerfield, zajedno sa svojim kolegama, razvio studiju kako bi procijenio kako AI može pomoći ljudima sa suprotnim mišljenjima kako bi postigli kompromis.
Koriste fino podešenu verziju unaprijed obučenog DeepMind LLM Chinchilla, koju su nazvali "Habermas Machine", nazvanom po filozofu Jürgen Habermas, koji je razvio teoriju o tome kako racionalne rasprave mogu pomoći u rješavanju sukoba.
Da bi testirali svoj model, istraživači su regrutirali 439 britanskih stanovnika koji su bili podijeljeni u manje skupine. Svaka je skupina raspravljala o tri pitanja o britanskim političkim pitanjima i podijelila svoja osobna mišljenja. Ta su mišljenja tada uvedena u AI stroj, koji je stvorio sveobuhvatne izjave koje su kombinirale perspektive svih sudionika. Sudionici su mogli procijeniti bilo koju izjavu i podnijeti recenzije, koje je AI tada ugradio u konačni sažetak kolektivne perspektive grupe.
"Model je obučen za izradu izjave koju podržava grupa ljudi koji su dobrovoljno izrazili svoje mišljenje", kaže Summerfield. "Budući da model saznaje kakve su vaše postavke o tim izjavama, tada može stvoriti izjavu koja najvjerojatnije sve zadovoljava."
Uz AI, sudionik je izabran kao posrednik. Od njega se tražilo da stvori sažetak koji najbolje uključuje stavove svih sudionika. Sudionici su dobili i sažetke AI i one posrednika i trebali bi ih procijeniti.
Većina sudionika ocijenila je sažetke koje je AI napisao bolje od onih posrednika. 56 % sudionika preferiralo je rad AI u usporedbi s 44 % koji je preferirao sažetak ljudskog. Također su zamoljeni vanjski stručnjaci da procijene sažetke i dali su AI sažetak veće preglede u vezi s pravdom, kvalitetom i jasnoćom.
Istraživački tim tada je zaposlio skupinu sudionika koji su bili demografski reprezentativni za britansko stanovništvo na sastanku virtualnih građana. U ovom scenariju, sporazum o grupi porastao je na kontroverznim temama nakon interakcije s AI. Ova spoznaja sugerira da su, kada su integrirani u sastanka stvarnih građana, AI alati mogli olakšati razvijanje političkih prijedloga koji uzimaju u obzir različite perspektive.
"LLM bi se mogao koristiti na mnogo načina za podršku i preuzimanje savjetovanja koje su prethodno bile rezervirane za ljudske moderatore", kaže Ethan Busby, koji ispituje kako AI alati mogu poboljšati demokratska društva, na Sveučilištu Brigham Young u Provou, Utah. "To smatram vrhom rada na ovom području, koji ima veliki potencijal za rješavanje hitnih društvenih i političkih problema." Summerfield dodaje da bi AI mogao čak i pomoći da procesi rješavanja sukoba budu brže i učinkovitije.
Izgubljene veze
"Zapravo primijeniti ove tehnologije u promišljene eksperimente i procese, zaista je zahvalan", kaže Sammy McKinney, koja ispituje promišljenu demokraciju i svoja sučelja za umjetnu inteligenciju na Sveučilištu u Cambridgeu u Velikoj Britaniji. Ali dodaje da bi istraživači trebali pažljivo razmotriti potencijalne učinke AI na ljudski aspekt rasprave. "Glavni razlog za podršku građanskim raspravama je taj što stvaraju određene sobe u kojima se ljudi mogu međusobno odnositi", kaže on. "Što gubimo ako sve više uklanjamo ljudski kontakt i ljudsku umjerenost?"
Summerfield prepoznaje ograničenja povezana s ovakvim AI tehnologijama. "Nismo trenirali model da intervenira u raspravi", kaže on, što znači da izjava modela može sadržavati i ekstremistički ili druga problematična uvjerenja. Dodaje da je rigorozno istraživanje o učincima AI na društvo ključno za razumijevanje njegove vrijednosti.
"da se pažljivo ponašam, čini mi se važnim", kaže McKinney, "a zatim poduzme korake za ublažavanje tih problema tamo gdje je to moguće."
-
tessler, M.H. et al., Science 386, EADQ2852 (2024).
google scholar" Data-Track-Value = "Referenca Google Scholar" Reference "Data-Track-Label =" Link "Data-Track-Track-Track-Atem_id =" Nofollow Noopener "Aria Label =" HREF Scholar Reference 1 "Href = "http://scholar.google.com/scholar_lookup?&title=&journal=science&volume=386&publication_year=2024&author=tessler%2cmm.h.h.">
Google znalca