AI -verktøy fremmer dialogen mellom mennesker med motstridende meninger
AI -verktøy fremmer dialogen mellom mennesker med motstridende meninger
Et chat -lignende verktøy som støttes av kunstig intelligens (AI) kan hjelpe mennesker med forskjellige synspunkter for å finne enighetsområder. Dette vises av et eksperiment med diskusjonsgrupper på nettet.
Modellen utviklet av Google DeepMind i London var i stand til å syntetisere divergerende meninger og skape sammendrag av posisjonen til hver gruppe som tok hensyn til forskjellige perspektiver. Deltakerne foretrakk sammendragene generert av AI fremfor de som er skrevet av menneskelige meklere. Dette indikerer at slike verktøy kan brukes til å støtte komplekse konsultasjoner. Studien ble publisert 17. oktober i magasinet science 1 .
"Du kan se det som et bevis på gjennomførbarhet at du kan bruke AI, spesielt store språkmodeller, for å oppfylle en del av funksjonen som for øyeblikket er oppfylt av innbyggernes møter og bevisste undersøkelser," sier Christopher Summerfield, medforfatter av studien og forskningsdirektøren ved UK AI Safety. "Folk må finne likheter, fordi kollektiv handling krever godkjenning."
kompromissmaskin
Demokratiske initiativer som innbyggermøter, der grupper blir bedt om å dele sine meninger om politiske spørsmål, sikre at politikere hører en rekke perspektiver. Utvidelsen av disse initiativene kan imidlertid være vanskelig fordi disse diskusjonene ofte er begrenset til små grupper for å sikre at alle stemmer blir hørt.
Nysgjerrig på forskning på mulighetene til store språkmodeller (LLM), utviklet Summerfield sammen med kollegene en studie for å evaluere hvordan AI kunne hjelpe mennesker med motsatte meninger med å oppnå et kompromiss.
De bruker en finjustert versjon av den pre-trente DeepMind LLM Chinchilla, som de kalte "Habermas Machine", oppkalt etter filosofen Jürgen Habermas, som utviklet en teori om hvordan rasjonelle diskusjoner kan bidra til å løse konflikter.
For å teste modellen sin, rekrutterte forskerne 439 britiske innbyggere som ble delt inn i mindre grupper. Hver gruppe diskuterte tre spørsmål om britiske politiske spørsmål og delte sine personlige meninger. Disse meningene ble deretter matet inn i AI -maskinen, som genererte overordnede uttalelser som kombinerte perspektivene til alle deltakerne. Deltakerne kunne evaluere enhver uttalelse og sende inn anmeldelser, som AI deretter innlemmet i et endelig sammendrag av gruppens kollektive perspektiv.
"Modellen er opplært til å produsere en uttalelse som støttes av en gruppe mennesker som frivillig har uttrykt sine meninger," sier Summerfield. "Siden modellen lærer hva dine preferanser handler om disse uttalelsene, kan den da lage en uttalelse som mest sannsynlig alle tilfredsstiller."
I tillegg til AI, ble en deltaker valgt som mekler. Han ble også bedt om å lage et sammendrag som best inkluderer synspunkter fra alle deltakere. Deltakerne fikk både sammendragene av AI og mekleren og skulle evaluere dem.
De fleste deltakere vurderte sammendragene skrevet av AI som bedre enn mekleren. 56 % av deltakerne foretrakk ytelsen til AI sammenlignet med 44 % som foretrakk menneskelig sammendrag. Eksterne eksperter ble også bedt om å evaluere sammendragene og ga AI -sammendraget høyere anmeldelser angående rettferdighet, kvalitet og klarhet.
Forskerteamet rekrutterte deretter en gruppe deltakere som var demografisk representative for den britiske befolkningen for et virtuelt borgermøte. I dette scenariet økte gruppeavtalen om kontroversielle temaer etter å ha samhandlet med AI. Denne erkjennelsen antyder at når de er integrert i et reelt innbyggermøte, kan AI -verktøy gjøre det lettere for lederne å utvikle politiske forslag som tar hensyn til forskjellige perspektiver.
"LLM kunne brukes på mange måter å støtte og ta på seg konsultasjoner som tidligere var forbeholdt menneskelige moderatorer," sier Ethan Busby, som undersøker hvordan AI -verktøy kan forbedre demokratiske samfunn, ved Brigham Young University i Provo, Utah. "Jeg anser dette som spissen av arbeidet på dette området, som har et stort potensial til å takle presserende sosiale og politiske problemer." Summerfield legger til at AI til og med kan bidra til å gjøre konfliktløsningsprosesser raskere og mer effektivt.
Lost Connections
"Å faktisk anvende disse teknologiene i bevisste eksperimenter og prosesser, er virkelig gledelig," sier Sammy McKinney, som undersøker det bevisste demokratiet og dets grensesnitt for kunstig intelligens ved University of Cambridge, Storbritannia. Men han legger til at forskere nøye bør vurdere de potensielle effektene av AI på det menneskelige aspektet av overlegget. "En hovedårsak til å støtte borgerlige overlegg er at de skaper visse rom der folk kan forholde seg til hverandre," sier han. "Hva mister vi hvis vi i økende grad fjerner menneskelig kontakt og moderasjon?"
Summerfield gjenkjenner begrensningene forbundet med AI -teknologier som dette. "Vi trente ikke modellen til å gripe inn i overleggelsen," sier han, noe som betyr at modellens uttalelse også kan inneholde ekstremistiske eller andre problematiske oppfatninger. Han legger til at streng forskning på effekten av AI på samfunnet er avgjørende for å forstå verdien.
"Å handle nøye, virker viktig for meg," sier McKinney, "og tar deretter skritt for å dempe disse bekymringene der det er mulig."
-
Tessler, M.H. et al., Science 386, EADQ2852 (2024).
google scholar Reference" data-track-value = "Google Scholar Reference" Data-Track-Label = "Link" Data-Track-Item_ID = "Nofollow NoOpener" Aria label = "Google Scholar Reference 1" href = "http://scholar.google.com/scholar_lookup?&title=&journal=science&volume=386&publication_year=2024&author=tessler%2cm.h.">
Google Scholar