AI -verktyget främjar dialogen mellan människor med motsatta åsikter
AI -verktyget främjar dialogen mellan människor med motsatta åsikter
Ett chattliknande verktyg som stöds av artificiell intelligens (AI) kan hjälpa människor med olika åsikter för att hitta överenskommelser. Detta visas av ett experiment med diskussionsgrupper online.
Modellen som utvecklats av Google DeepMind i London kunde syntetisera olika åsikter och skapa sammanfattningar av positionen för varje grupp som tog hänsyn till olika perspektiv. Deltagarna föredrog de sammanfattningar som genererades av AI framför de som skrivits av mänskliga mediatorer. Detta indikerar att sådana verktyg kan användas för att stödja komplexa samråd. Studien publicerades den 17 oktober i Magazine Science 1 .
"Du kan se det som ett bevis på genomförbarhet att du kan använda AI, särskilt stora språkmodeller, för att uppfylla en del av den funktion som för närvarande uppfylls av medborgarnas möten och avsiktliga undersökningar," säger Christopher Summerfield, medförfattare till studien och forskningsdirektören vid UK AI -säkerheten. "Människor måste hitta likheter, eftersom kollektiva åtgärder kräver godkännande."
kompromissmaskin
Demokratiska initiativ som medborgarnas möten, där grupper uppmanas att dela sina åsikter om politiska frågor, säkerställer att politiker hör olika perspektiv. Utvidgningen av dessa initiativ kan emellertid vara svår eftersom dessa diskussioner ofta är begränsade till små grupper för att säkerställa att alla röster hörs.
Nyfiken på forskning om möjligheterna för stora språkmodeller (LLM), Summerfield, tillsammans med sina kollegor, utvecklade en studie för att utvärdera hur AI kunde hjälpa människor med motsatta åsikter att uppnå en kompromiss.
De använder en finjusterad version av den förutbildade DeepMind LLM Chinchilla, som de kallade "Habermas Machine", uppkallad efter filosofen Jürgen Habermas, som utvecklade en teori om hur rationella diskussioner kan hjälpa till att lösa konflikter.
För att testa sin modell rekryterade forskarna 439 brittiska invånare som var uppdelade i mindre grupper. Varje grupp diskuterade tre frågor om brittiska politiska frågor och delade sina personliga åsikter. Dessa åsikter matades sedan in i AI -maskinen, som genererade övergripande uttalanden som kombinerade alla deltagares perspektiv. Deltagarna kunde utvärdera alla uttalanden och lämna in recensioner, som AI sedan införlivade i en sista sammanfattning av gruppens kollektiva perspektiv.
"Modellen är utbildad för att producera ett uttalande som stöds av en grupp människor som frivilligt har uttryckt sina åsikter," säger Summerfield. "Eftersom modellen lär sig vad dina preferenser är om dessa uttalanden kan den sedan skapa ett uttalande som troligen alla uppfyller."
Förutom AI valdes en deltagare som mediator. Han ombads också att skapa en sammanfattning som bäst inkluderar alla deltagares åsikter. Deltagarna fick både sammanfattningar av AI och medlarens och bör utvärdera dem.
De flesta deltagare betygsatt sammanfattarna skriven av AI som bättre än medlarens. 56 % av deltagarna föredrog prestanda för AI jämfört med 44 % som föredrog mänsklig sammanfattning. Externa experter ombads också att utvärdera sammanfattarna och gav AI -sammanfattningen högre recensioner om rättvisa, kvalitet och tydlighet.
Forskarteamet rekryterade sedan en grupp deltagare som var demografiskt representativa för den brittiska befolkningen för ett virtuellt medborgarmöte. I detta scenario ökade gruppavtalet om kontroversiella ämnen efter att ha interagerat med AI. Denna insikt antyder att när de integreras i ett verkligt medborgares möte kan AI -verktyg göra det enklare för ledarna att utveckla politiska förslag som tar hänsyn till olika perspektiv.
"LLM kan användas på många sätt för att stödja och ta på sig konsultationer som tidigare var reserverade för mänskliga moderatorer," säger Ethan Busby, som undersöker hur AI -verktyg kan förbättra demokratiska samhällen, vid Brigham Young University i Provo, Utah. "Jag betraktar detta som spetsen på arbetet på detta område, som har stor potential att ta itu med brådskande sociala och politiska problem." Summerfield tillägger att AI till och med kan hjälpa till att göra konfliktlösningsprocesser snabbare och mer effektivt.
förlorade anslutningar
"För att faktiskt tillämpa dessa tekniker i avsiktliga experiment och processer är verkligen glädjande", säger Sammy McKinney, som undersöker den avsiktliga demokratin och dess gränssnitt för konstgjord intelligens vid University of Cambridge, Storbritannien. Men han tillägger att forskare noggrant bör överväga de potentiella effekterna av AI på den mänskliga aspekten av överläggningen. "En huvudsaklig orsak till att stödja medborgerliga överläggningar är att de skapar vissa rum där människor kan förhålla sig till varandra," säger han. "Vad förlorar vi om vi i allt högre grad tar bort mänsklig kontakt och mänsklig moderation?"
Summerfield känner igen de begränsningar som är förknippade med AI -tekniker som denna. "Vi utbildade inte modellen för att ingripa i överläggningen," säger han, vilket innebär att modellens uttalande också kunde innehålla extremistiska eller andra problematiska övertygelser. Han tillägger att strikt forskning om AI: s effekter på samhället är avgörande för att förstå dess värde.
"Att agera noggrant, verkar viktigt för mig," säger McKinney, "och vidta sedan åtgärder för att mildra dessa problem där det är möjligt."
-
Tessler, M.H. et al., Science 386, EADQ2852 (2024).
google scholar Reference" data-track-värde = "Google Scholar Reference" data-track-label = "länk" data-track-item_id = "nofollow noopener" aria label = "Google Scholar Reference 1" href = " "http://scholar.google.com/scholar_lookup?&title=&journal=Science&volume=386&publication_year=2024&author=tessler%2cm.h.">
Google Scholar