Orodje AI spodbuja dialog med ljudmi z nasprotnimi mnenji

Orodje AI spodbuja dialog med ljudmi z nasprotnimi mnenji

Orodje, podobno chatbotu, ki ga poganja umetna inteligenca (AI), lahko ljudem z različnimi pogledi pomaga najti področja, s katerimi se strinjajo. To dokazuje poskus s spletnimi diskusijskimi skupinami.

Model, ki ga je razvil Google DeepMind v Londonu, je lahko sintetiziral različna mnenja in izdelal povzetke stališč vsake skupine, ki so upoštevali različne perspektive. Udeleženci so imeli raje povzetke, ki jih je ustvarila umetna inteligenca, kot tiste, ki so jih napisali človeški posredniki. To nakazuje, da bi se takšna orodja lahko uporabila za podporo kompleksnih posvetovanj. Študija je bila objavljena 17. oktobra v reviji Science 1.

»Na to lahko gledate kot na dokaz koncepta, da lahko uporabite umetno inteligenco, zlasti velike jezikovne modele, za izvajanje nekaterih funkcij, ki jih trenutno izvajajo skupščine državljanov in posvetovalne volitve,« pravi Christopher Summerfield, soavtor študije in direktor raziskave na Inštitutu za varnost umetne inteligence Združenega kraljestva. "Ljudje morajo najti skupni jezik, ker kolektivna akcija zahteva soglasje."

Stroj za kompromise

Demokratične pobude, kot so srečanja v mestni hiši, na katerih so skupine ljudi pozvane, da delijo svoja mnenja o političnih vprašanjih, zagotavljajo, da politiki slišijo različne poglede. Vendar je lahko povečanje teh pobud težko, ker so te razprave pogosto omejene na majhne skupine, da se zagotovi, da se slišijo vsi glasovi.

Summerfield in njegovi kolegi so bili radovedni glede raziskav o možnostih velikih jezikovnih modelov (LLM), zato so razvili študijo, da bi ocenili, kako bi lahko umetna inteligenca ljudem z nasprotnimi mnenji pomagala doseči kompromis.

Uporabili so natančno prilagojeno različico vnaprej usposobljene DeepMind LLM Chinchilla, ki so jo poimenovali »Habermasov stroj«, poimenovan po filozofu Jürgenu Habermasu, ki je razvil teorijo o tem, kako lahko racionalne razprave pomagajo pri reševanju konfliktov.

Da bi testirali svoj model, so raziskovalci zaposlili 439 britanskih prebivalcev, ki so bili razdeljeni v manjše skupine. Vsaka skupina je razpravljala o treh vprašanjih o britanskih političnih vprašanjih in o njih delila svoje osebno mnenje. Ta mnenja so bila nato vnesena v mehanizem AI, ki je ustvaril splošne izjave, ki so združevale perspektive vseh udeležencev. Udeleženci so lahko ocenili in kritizirali vsako izjavo, ki jo je AI nato vključil v končni povzetek skupnega pogleda skupine.

»Model je usposobljen za izdelavo izjave, ki ima največjo podporo skupine ljudi, ki so prostovoljno izrazili svoje mnenje,« pravi Summerfield. "Ko se model nauči, kakšne so vaše želje glede teh izjav, lahko nato ustvari izjavo, ki bo najverjetneje zadovoljila vse."

Poleg AI je bil izbran udeleženec kot mediator. Prosili so ga tudi, naj pripravi povzetek, ki bo najbolje vključeval poglede vseh udeležencev. Udeležencem so bili prikazani povzetki umetne inteligence in mediatorja ter jih prosili, naj jih ocenijo.

Večina udeležencev je povzetke, ki jih je napisal AI, ocenila kot boljše od tistih, ki jih je napisal mediator. 56 % udeležencev je dalo prednost delovanju umetne inteligence v primerjavi s 44 % udeležencev, ki so imeli raje človeško povzemanje. Zunanji pregledovalci so bili tudi pozvani, da ocenijo povzetke in so povzetkom AI dali višje ocene za poštenost, kakovost in jasnost.

Raziskovalna skupina je nato zaposlila skupino udeležencev, ki so demografsko reprezentativni za prebivalstvo Združenega kraljestva, za virtualno srečanje mestne hiše. V tem scenariju se je skupinsko strinjanje o spornih vprašanjih povečalo po interakciji z AI. Ta ugotovitev nakazuje, da bi lahko orodja AI, če so vključena v pravo skupščino državljanov, voditeljem olajšala razvoj političnih predlogov, ki upoštevajo različne perspektive.

»Študij LLM bi lahko uporabili na več načinov za podporo razmislekom in prevzeli vloge, ki so bile prej rezervirane za človeške posredovalce,« pravi Ethan Busby, ki preučuje, kako bi orodja umetne inteligence lahko izboljšala demokratične družbe na Univerzi Brighama Younga v Provu, Utah. "To vidim kot vrhunec dela na tem področju, ki ima velik potencial za reševanje perečih družbenih in političnih vprašanj." Summerfield dodaja, da bi umetna inteligenca lahko celo pripomogla k hitrejšemu in učinkovitejšemu reševanju konfliktov.

Izgubljene povezave

»Pravzaprav je uporaba teh tehnologij v deliberativnih poskusih in procesih resnično razveseljiva,« pravi Sammy McKinney, ki preučuje deliberativno demokracijo in njene vmesnike z umetno inteligenco na Univerzi v Cambridgeu v Veliki Britaniji. Vendar dodaja, da bi morali raziskovalci skrbno razmisliti o potencialnem vplivu umetne inteligence na človeški vidik posvetovanja. "Ključni razlog za podporo državljanskih posvetovanj je, da ustvarjajo posebne prostore, v katerih se ljudje lahko povežejo drug z drugim," pravi. "Kaj izgubljamo, če vedno bolj odpravljamo človeške stike in človeško pomoč?"

Summerfield se zaveda omejitev, povezanih s tehnologijami umetne inteligence, kot je ta. »Modela nismo usposobili za posredovanje v premisleku,« pravi, kar pomeni, da bi izjava modela lahko vsebovala tudi ekstremistična ali druga problematična prepričanja. Dodaja, da so stroge raziskave o vplivu umetne inteligence na družbo ključnega pomena za razumevanje njene vrednosti.

"Zdi se mi pomembno, da nadaljujem previdno," pravi McKinney, "in nato sprejmem ukrepe za ublažitev teh skrbi, kjer je to mogoče."

1. Tessler, M.H. et al., Science 386, eadq2852 (2024).

   
   Google Učenjak

Prenesite bibliografijo