AI-verktøy fremmer dialog mellom mennesker med motsatte meninger

AI-verktøy fremmer dialog mellom mennesker med motsatte meninger

Et chatbot-lignende verktøy drevet av kunstig intelligens (AI) kan hjelpe mennesker med ulike synspunkter med å finne områder for enighet. Dette viser et eksperiment med nettbaserte diskusjonsgrupper.

Modellen, utviklet av Google DeepMind i London, var i stand til å syntetisere divergerende meninger og produsere sammendrag av hver gruppes posisjon som tok ulike perspektiver i betraktning. Deltakerne foretrakk de AI-genererte sammendragene fremfor de som var skrevet av menneskelige formidlere. Dette antyder at slike verktøy kan brukes til å støtte komplekse konsultasjoner. Studien ble publisert 17. oktober i tidsskriftet Science 1.

"Du kan se det som et proof of concept at du kan bruke AI, spesielt store språkmodeller, til å utføre noen av funksjonene som for tiden utføres av innbyggerforsamlinger og deliberative meningsmålinger," sier Christopher Summerfield, medforfatter av studien og forskningsdirektør ved UK AI Safety Institute. "Folk må finne felles grunnlag fordi kollektiv handling krever samtykke."

Kompromiss maskin

Demokratiske initiativ som rådhusmøter, der grupper av mennesker blir bedt om å dele sine meninger om politiske spørsmål, sikrer at politikerne hører en rekke perspektiver. Det kan imidlertid være vanskelig å oppskalere disse initiativene fordi disse diskusjonene ofte er begrenset til små grupper for å sikre at alle stemmer blir hørt.

Summerfield og kollegene hans var nysgjerrige på forskning på mulighetene til store språkmodeller (LLM), og utviklet en studie for å evaluere hvordan AI kunne hjelpe mennesker med motsatte meninger med å komme på kompromiss.

De distribuerte en finjustert versjon av den ferdigtrente DeepMind LLM Chinchillaen, som de kalte «Habermas-maskinen», oppkalt etter filosofen Jürgen Habermas, som utviklet en teori om hvordan rasjonelle diskusjoner kan bidra til å løse konflikter.

For å teste modellen deres, rekrutterte forskerne 439 britiske innbyggere som ble delt inn i mindre grupper. Hver gruppe diskuterte tre spørsmål om britiske politiske spørsmål og delte sine personlige meninger om dem. Disse meningene ble deretter matet inn i AI-motoren, som genererte overordnede uttalelser som kombinerte perspektivene til alle deltakerne. Deltakerne var i stand til å vurdere og kritisere hvert utsagn, som AI-en deretter inkorporerte i et endelig sammendrag av gruppens kollektive syn.

"Modellen er opplært til å produsere en uttalelse som har maksimal støtte fra en gruppe mennesker som har gitt sine meninger frivillig," sier Summerfield. "Når modellen lærer hva dine preferanser er om disse utsagnene, kan den produsere en uttalelse som mest sannsynlig vil tilfredsstille alle."

I tillegg til AI ble en deltaker valgt ut som formidler. Han ble også bedt om å lage et sammendrag som best inkorporerte synspunktene til alle deltakerne. Deltakerne ble vist både AI og mediatorens sammendrag og ble bedt om å vurdere dem.

De fleste deltakerne vurderte sammendragene skrevet av AI som bedre enn de som ble skrevet av mekleren. 56 % av deltakerne foretrakk AI-ytelse, sammenlignet med 44 % som foretrakk menneskelig oppsummering. Eksterne anmeldere ble også bedt om å evaluere sammendragene og ga AI-sammendragene høyere rangeringer for rettferdighet, kvalitet og klarhet.

Forskerteamet rekrutterte deretter en gruppe deltakere som var demografisk representativt for den britiske befolkningen til et virtuelt rådhusmøte. I dette scenariet økte gruppeenigheten om omstridte spørsmål etter at de samhandlet med AI. Dette funnet tyder på at AI-verktøy, når de er integrert i en ekte innbyggerforsamling, kan gjøre det lettere for ledere å utvikle politiske forslag som tar ulike perspektiver i betraktning.

"LLM kan brukes på mange måter for å støtte overveielser og ta på seg roller som tidligere var reservert for menneskelige tilretteleggere," sier Ethan Busby, som studerer hvordan AI-verktøy kan forbedre demokratiske samfunn ved Brigham Young University i Provo, Utah. "Jeg ser på dette som toppen av arbeidet på dette området, som har et stort potensial for å ta opp presserende sosiale og politiske spørsmål." Summerfield legger til at AI til og med kan bidra til å gjøre konfliktløsningsprosesser raskere og mer effektive.

Mistet forbindelser

"Det er virkelig gledelig å bruke disse teknologiene til deliberative eksperimenter og prosesser," sier Sammy McKinney, som studerer deliberativt demokrati og dets grensesnitt med kunstig intelligens ved University of Cambridge, Storbritannia. Men han legger til at forskere nøye bør vurdere den potensielle effekten av AI på det menneskelige aspektet av overveielse. "En sentral grunn til å støtte innbyggeroverveielser er at de skaper spesifikke rom der folk kan forholde seg til hverandre," sier han. "Hva taper vi ved å i økende grad fjerne menneskelig kontakt og menneskelig tilrettelegging?"

Summerfield anerkjenner begrensningene knyttet til AI-teknologier som disse. "Vi trente ikke modellen til å gripe inn i overveielse," sier han, noe som betyr at modellens uttalelse også kan inneholde ekstremistiske eller andre problematiske oppfatninger. Han legger til at grundig forskning på virkningen av AI på samfunnet er avgjørende for å forstå verdien.

"Det virker viktig for meg å gå forsiktig frem," sier McKinney, "og deretter ta skritt for å dempe disse bekymringene der det er mulig."

1. Tessler, M.H. et al., Science 386, eadq2852 (2024).

   
   Google Scholar

Last ned bibliografi