Tekoälytyökalu edistää vuoropuhelua erimielisten ihmisten välillä

Tekoälytyökalu edistää vuoropuhelua erimielisten ihmisten välillä

Chatbotin kaltainen tekoälyn (AI) käyttämä työkalu voi auttaa eri näkemyksiä omaavia ihmisiä löytämään yhteisymmärryksen alueita. Tämän osoittaa verkkokeskusteluryhmien kanssa tehty kokeilu.

Lontoossa toimivan Google DeepMindin kehittämä malli pystyi syntetisoimaan eriäviä mielipiteitä ja tuottamaan yhteenvetoja kunkin ryhmän kannasta, joissa huomioitiin eri näkökulmat. Osallistujat pitivät tekoälyn luomia tiivistelmiä parempana kuin ihmisten välittäjien kirjoittamia. Tämä viittaa siihen, että tällaisia ​​välineitä voitaisiin käyttää tukemaan monimutkaisia ​​neuvotteluja. Tutkimus julkaistiin 17. lokakuuta Science-lehdessä 1.

"Voit nähdä sen todisteena konseptista, että voit käyttää tekoälyä, erityisesti suuria kielimalleja, suorittamaan joitakin kansalaiskokousten ja mielipidemittausten tällä hetkellä suorittamista toiminnoista", sanoo Christopher Summerfield, tutkimuksen toinen kirjoittaja ja tutkimusjohtaja UK AI Safety Institutesta. "Ihmisten on löydettävä yhteinen sävel, koska kollektiivinen toiminta vaatii suostumuksen."

Kompromissi kone

Demokraattiset aloitteet, kuten kaupungintalon kokoukset, joissa ihmisryhmiä pyydetään jakamaan mielipiteensä poliittisista kysymyksistä, varmistavat, että poliitikot kuulevat erilaisia ​​näkökulmia. Näiden aloitteiden laajentaminen voi kuitenkin olla vaikeaa, koska nämä keskustelut rajoittuvat usein pieniin ryhmiin sen varmistamiseksi, että kaikki äänet tulevat kuuluviin.

Summerfield ja hänen kollegansa ovat utelias tutkimuksesta suurten kielimallien (LLM) mahdollisuuksista, ja he kehittivät tutkimuksen arvioidakseen, kuinka tekoäly voisi auttaa erimielisiä ihmisiä pääsemään kompromissiin.

He ottivat käyttöön hienosäädetyn version esikoulutetusta DeepMind LLM Chinchillasta, jota he kutsuivat "Habermas Machineksi", joka on nimetty filosofi Jürgen Habermasin mukaan, joka kehitti teorian siitä, kuinka rationaalinen keskustelu voi auttaa ratkaisemaan konflikteja.

Testatakseen malliaan tutkijat värväsivät 439 brittiläistä, jotka jaettiin pienempiin ryhmiin. Kukin ryhmä keskusteli kolmesta Britannian poliittista kysymystä koskevasta kysymyksestä ja kertoi niistä henkilökohtaisia ​​mielipiteitään. Nämä mielipiteet syötettiin sitten tekoälymoottoriin, joka loi kattavat lausunnot, jotka yhdistivät kaikkien osallistujien näkökulmat. Osallistujat pystyivät arvioimaan ja arvostelemaan jokaista lausuntoa, jonka tekoäly sitten sisällytti lopulliseen yhteenvetoon ryhmän kollektiivisesta näkemyksestä.

"Malli on koulutettu tuottamaan lausunto, joka saa maksimaalisen tuen ihmisryhmältä, joka on ilmaissut mielipiteensä vapaaehtoisesti", Summerfield sanoo. "Kun malli oppii mieltymystesi näistä väitteistä, se voi tuottaa lausunnon, joka todennäköisimmin tyydyttää kaikkia."

Tekoälyn lisäksi sovittelijaksi valittiin osallistuja. Häntä pyydettiin myös laatimaan yhteenveto, joka sisälsi parhaiten kaikkien osallistujien näkemykset. Osallistujille näytettiin sekä tekoälyn että välittäjän yhteenvedot ja heitä pyydettiin arvioimaan ne.

Suurin osa osallistujista piti tekoälyn kirjoittamia tiivistelmiä paremmiksi kuin välittäjän kirjoittamat. 56 % osallistujista piti parempana tekoälyn suorituskykyä verrattuna 44 %:iin, jotka suosivat ihmisen tekemiä yhteenvetoja. Ulkopuolisia arvioijia pyydettiin myös arvioimaan yhteenvedot, ja he antoivat tekoälytiivistelmille korkeammat arvosanat oikeudenmukaisuudesta, laadusta ja selkeydestä.

Tutkimusryhmä rekrytoi sitten demografisesti Yhdistyneen kuningaskunnan väestöä edustavan osallistujaryhmän virtuaaliseen kaupungintalon kokoukseen. Tässä skenaariossa ryhmäsopimus kiistanalaisista asioista lisääntyi sen jälkeen, kun he olivat vuorovaikutuksessa tekoälyn kanssa. Tämä havainto viittaa siihen, että tekoälytyökalut, kun ne on integroitu todelliseen kansalaiskokoukseen, voisivat helpottaa johtajien laatia poliittisia ehdotuksia, joissa otetaan huomioon erilaiset näkökulmat.

"LLM:ää voitaisiin käyttää monella tapaa tukemaan pohdintoja ja ottamaan tehtäviä, jotka on aiemmin varattu ihmisavustajille", sanoo Ethan Busby, joka tutkii kuinka tekoälytyökalut voisivat parantaa demokraattisia yhteiskuntia Brigham Youngin yliopistossa Provossa, Utahissa. "Näen tämän työn huippuna tällä alalla, jolla on suuret mahdollisuudet käsitellä kiireellisiä sosiaalisia ja poliittisia kysymyksiä." Summerfield lisää, että tekoäly voisi jopa auttaa tekemään konfliktien ratkaisuprosesseista nopeampia ja tehokkaampia.

Yhteydet kadonneet

"Itse asiassa näiden teknologioiden soveltaminen deliberatiivisiin kokeisiin ja prosesseihin on todella ilahduttavaa", sanoo Sammy McKinney, joka tutkii deliberatiivista demokratiaa ja sen rajapintoja tekoälyn kanssa Cambridgen yliopistossa Isossa-Britanniassa. Mutta hän lisää, että tutkijoiden tulee harkita huolellisesti tekoälyn mahdollista vaikutusta harkinnan inhimilliseen näkökulmaan. "Tärkein syy kansalaiskeskustelun tukemiseen on se, että ne luovat erityisiä tiloja, joissa ihmiset voivat olla yhteydessä toisiinsa", hän sanoo. "Mitä menetämme poistamalla yhä enemmän ihmiskontakteja ja inhimillistä helpotusta?"

Summerfield tunnistaa tämän kaltaisiin tekoälytekniikoihin liittyvät rajoitukset. "Emme kouluttaneet mallia puuttumaan harkintaan", hän sanoo, mikä tarkoittaa, että mallin lausunto voi sisältää myös ääri- tai muita ongelmallisia uskomuksia. Hän lisää, että tekoälyn yhteiskunnallisen vaikutuksen tiukka tutkimus on ratkaisevan tärkeää sen arvon ymmärtämiseksi.

"Minusta tuntuu tärkeältä edetä varoen", McKinney sanoo, "ja sitten ryhtyä toimiin näiden huolenaiheiden lieventämiseksi mahdollisuuksien mukaan."

1. Tessler, M.H. et ai., Science 386, eadq2852 (2024).

   
   Google Scholar

Lataa bibliografia