AI rīks veicina dialogu starp cilvēkiem ar pretēju viedokli
AI rīks veicina dialogu starp cilvēkiem ar pretēju viedokli
Tērzēšanas rīks, kuru atbalsta mākslīgais intelekts (AI), var palīdzēt cilvēkiem ar atšķirīgu viedokli atrast vienošanās jomas. To parāda eksperiments ar tiešsaistes diskusiju grupām.
Google Deepmind izstrādātais modelis Londonā spēja sintezēt atšķirīgus viedokļus un izveidot katras grupas stāvokļa kopsavilkumus, kas ņēma vērā dažādus aspektus. Dalībnieki deva priekšroku AI radītajiem kopsavilkumiem, nevis cilvēku starpniekiem. Tas norāda, ka šādus rīkus varētu izmantot sarežģītu konsultāciju atbalstam. Pētījums tika publicēts 17. oktobrī žurnālā Science 1 .
"Jūs to varat uzskatīt par iespējamības pierādījumu, ka jūs varat izmantot AI, īpaši lielo valodu modeļus, lai izpildītu daļu no funkcijas, kuru pašlaik izpilda pilsoņu sanāksmes un pārdomātas aptaujas," saka Kristofers Summerfīlds, pētījuma un pētījuma direktors Lielbritānijas AI drošības pētījuma un pētniecības direktors. "Cilvēkiem ir jāatrod līdzības, jo kolektīvai darbībai ir nepieciešams apstiprinājums."
kompromisa mašīna
Demokrātiskas iniciatīvas, piemēram, pilsoņu sanāksmes, kurās grupām tiek lūgts dalīties savā viedoklī par politiskiem jautājumiem, nodrošina, ka politiķi dzird dažādas perspektīvas. Tomēr šo iniciatīvu paplašināšana var būt sarežģīta, jo šīs diskusijas bieži ir ierobežotas ar mazām grupām, lai nodrošinātu, ka visas balsis ir dzirdamas.
Ziņojums par lielo valodu modeļu (LLMS) iespējām, Summerfield kopā ar kolēģiem, izstrādāja pētījumu, lai novērtētu, kā AI varētu palīdzēt cilvēkiem ar pretēju viedokli panākt kompromisu.
Viņi izmanto precīzi noregulēto iepriekš apmācīto DeepMind LLM Chinchilla versiju, kuru viņi sauca par “Habermas mašīnu”, kas nosaukta filozofa Jürgen Habermas pēc tam, kad izstrādāja teoriju par to, kā racionālas diskusijas var palīdzēt atrisināt konfliktus.
Lai pārbaudītu viņu modeli, pētnieki pieņēma darbā 439 Lielbritānijas iedzīvotājus, kuri tika sadalīti mazākās grupās. Katra grupa apsprieda trīs jautājumus par Lielbritānijas politiskajiem jautājumiem un dalījās ar personīgo viedokli. Pēc tam šie viedokļi tika ievadīti AI mašīnā, kas radīja visaptverošus paziņojumus, kas apvienoja visu dalībnieku perspektīvas. Dalībnieki varēja novērtēt jebkuru paziņojumu un iesniegt pārskatus, kurus AI pēc tam iekļāva grupas kolektīvās perspektīvas galīgajā kopsavilkumā.
"Modelis ir apmācīts sagatavot paziņojumu, kuru atbalsta cilvēku grupa, kuri ir brīvprātīgi pauduši savu viedokli," saka Summerfield. "Tā kā modelis uzzina, kādas ir jūsu preferences par šiem paziņojumiem, tas var radīt paziņojumu, kuru, visticamāk, visi apmierina."
Papildus AI dalībnieks tika izvēlēts par starpnieku. Viņam tika lūgts arī izveidot kopsavilkumu, kurā vislabāk ietilpst visu dalībnieku viedoklis. Dalībniekiem tika doti gan AI, gan starpnieka kopsavilkumi, un viņiem tiem vajadzētu novērtēt.
Lielākā daļa dalībnieku novērtēja AI rakstītos kopsavilkumus kā labākus nekā starpnieka. 56 % dalībnieku deva priekšroku AI sniegumam, salīdzinot ar 44 %, kas deva priekšroku cilvēku kopsavilkumam. Arī ārējiem ekspertiem tika lūgts novērtēt kopsavilkumus un sniedza AI kopsavilkuma augstākas atsauksmes par taisnīgumu, kvalitāti un skaidrību.
Pēc tam pētījumu grupa pieņēma darbā dalībnieku grupu, kas bija demogrāfiski pārstāvis Lielbritānijas iedzīvotājus uz virtuālo pilsoņu sanāksmi. Šajā scenārijā grupas vienošanās pieauga par pretrunīgi vērtētām tēmām pēc mijiedarbības ar AI. Šī realizācija liek domāt, ka tad, kad viņi tiek integrēti reālas pilsoņu sanāksmē, AI rīki varētu atvieglot vadītājiem attīstīt politiskus priekšlikumus, kas ņem vērā dažādas perspektīvas.
"LLM daudzos veidos varētu izmantot, lai atbalstītu un uzņemtu konsultācijas, kas iepriekš tika rezervētas cilvēku moderatoriem," saka Etans Busbijs, kurš pēta, kā AI rīki varētu uzlabot demokrātisko sabiedrību Brigham Young University Provo, Jūtā. "Es to uzskatu par darba galu šajā jomā, kuram ir liels potenciāls risināt steidzamās sociālās un politiskās problēmas." Summerfield piebilst, ka AI varētu pat palīdzēt padarīt konfliktu risināšanas procesus ātrāk un efektīvāk.
zaudētie savienojumi
"Lai faktiski pielietotu šīs tehnoloģijas pārdomātos eksperimentos un procesos, ir patiešām iepriecinoši," saka Samijs Makkinijs, kurš pēta padomdevēju demokrātiju un tās saskarnes mākslīgā intelektā Kembridžas universitātē, Lielbritānijā. Bet viņš piebilst, ka pētniekiem rūpīgi jāapsver AI iespējamā ietekme uz apspriežu cilvēcisko aspektu. "Galvenais iemesls, lai atbalstītu pilsoniskās apspriedes, ir tas, ka viņi izveido noteiktas telpas, kurās cilvēki var savstarpēji saistīties," viņš saka. "Ko mēs zaudējam, ja mēs arvien vairāk noņemam cilvēku kontaktu un cilvēku mērenību?"
Summerfield atzīst ierobežojumus, kas saistīti ar AI tehnoloģijām, piemēram, šo. "Mēs netrenējām modeli iejaukties pārdomās," viņš saka, kas nozīmē, ka modeļa paziņojumā varētu būt arī ekstrēmistu vai citu problemātisku uzskatu. Viņš piebilst, ka stingri pētījumi par AI ietekmi uz sabiedrību ir svarīgi, lai izprastu tās vērtību.
"Rīkoties uzmanīgi, man šķiet svarīgs," saka Makkinijs, "un pēc tam veic pasākumus, lai mazinātu šīs bažas, ja iespējams."
-
Tessler, M.H. et al., Science 386, EADQ2852 (2024).