Nástroj AI podporuje dialog mezi lidmi s protichůdnými názory

Nástroj AI podporuje dialog mezi lidmi s protichůdnými názory

Nástroj podobný Chatbot poháněný umělou inteligencí (AI) může lidem pomoci s různými názory najít oblasti dohody. To je zobrazeno experimentem s online diskusními skupinami.

Model, který vyvinul Google Deepmind v Londýně, byl schopen syntetizovat odlišné názory a vytvořit shrnutí pozice každé skupiny, které zohlednily různé perspektivy. Účastníci upřednostňovali souhrny generované AI před těmi, které napsali lidští mediátoři. To naznačuje, že takové nástroje by mohly být použity k podpoře složitých konzultací. Studie byla zveřejněna 17. října v časopise Science 1.

"Můžete to vidět jako důkaz konceptu, že můžete použít AI, zejména velké jazykové modely, k plnění některých funkcí, které v současné době provádějí občanská shromáždění a deliberativní průzkumy veřejného mínění," říká Christopher Summerfield, spoluautor ředitele studie a výzkumu v britském bezpečnostním ústavu AI. "Lidé musí najít společnou půdu, protože kolektivní akce vyžaduje souhlas."

Kompromisní stroj

Demokratické iniciativy, jako jsou setkání radnic, kde jsou skupiny lidí žádány, aby se podělily o své názory na politické otázky, zajišťují, aby politici slyšeli různé perspektivy. Rozšiřování těchto iniciativ však může být obtížné, protože tyto diskuse jsou často omezeny na malé skupiny, aby se zajistilo, že všechny hlasy budou slyšet.

Summerfield a jeho kolegové zvědaví na výzkum možností velkých jazykových modelů (LLM) a jeho kolegové vyvinuli studii, která by vyhodnotila, jak může AI pomoci lidem s protichůdnými názory dosáhnout kompromisu.

Nasadili jemně vyladěnou verzi předem vyškolené DeepMind LLM Chinchilla, kterou nazvali „Mabermas Machine“, pojmenovaný po filozofovi Jürgenovi Habermasovi, který vyvinul teorii toho, jak racionální diskuse mohou pomoci vyřešit konflikty.

Pro testování jejich modelu vědci najali 439 britských obyvatel, kteří byli rozděleni do menších skupin. Každá skupina diskutovala o třech otázkách o britských politických otázkách a sdílela na ně své osobní názory. Tyto názory byly poté přivedeny do motoru AI, který generoval zastřešující prohlášení, která kombinovala perspektivy všech účastníků. Účastníci byli schopni hodnotit a kritizovat každé prohlášení, které AI poté začlenila do konečného shrnutí kolektivního pohledu skupiny.

"Model je vyškolen k vytvoření prohlášení, které má maximální podporu od skupiny lidí, kteří dobrovolně přihlásili své názory," říká Summerfield. "Když se model dozví, jaké jsou vaše preference o těchto prohlášeních, pak může vytvořit prohlášení, které s největší pravděpodobností uspokojí všechny."

Kromě AI byl účastník vybrán jako prostředník. Byl také požádán, aby vytvořil shrnutí, které nejlépe zahrnovalo názory všech účastníků. Účastníci byly ukázány jak AI, tak shrnutí mediátora a byli požádáni, aby je ohodnotili.

Většina účastníků hodnotila shrnutí napsané AI jako lepší než souhrny napsané mediátorem. 56% účastníků upřednostňovalo výkon AI ve srovnání se 44%, kteří upřednostňovali shrnutí člověka. Externí recenzenti byli také požádáni, aby vyhodnotili shrnutí a dali AI shrnutí vyšší hodnocení spravedlnosti, kvality a jasnosti.

Výzkumný tým poté najal skupinu účastníků demograficky představitele britské populace na virtuální zasedání radnice. V tomto scénáři se po interakci s AI zvýšila skupinová dohoda o sporných otázkách. Toto zjištění naznačuje, že nástroje AI, pokud jsou integrovány do shromáždění skutečných občanů, mohou vůdcům usnadnit rozvoj politických návrhů, které zohledňují různé perspektivy.

„LLM by mohl být použit v mnoha ohledech k podpoře jednání a převzetí rolí, které byly dříve vyhrazeny pro lidské facilitátory,“ říká Ethan Busby, který studuje, jak by nástroje AI mohly zlepšit demokratické společnosti na Brigham Young University v Provo v Utahu. "Vidím to jako vrchol práce v této oblasti, což má velký potenciál řešit naléhavé sociální a politické problémy." Summerfield dodává, že AI by mohla dokonce pomoci zrychlit a efektivnější procesy řešení konfliktů.

Ztracená spojení

„Ve skutečnosti je používání těchto technologií na deliberativní experimenty a procesy opravdu potěšující,“ říká Sammy McKinney, která studuje deliberativní demokracii a její rozhraní s umělou inteligencí na University of Cambridge ve Velké Británii. Dodává však, že vědci by měli pečlivě zvážit potenciální dopad AI na lidský aspekt uvažování. "Klíčovým důvodem pro podporu občanských jednání je to, že vytvářejí konkrétní prostory, ve kterých se lidé mohou navzájem vztahovat," říká. "Co ztratíme tím, že stále více odstraníme lidský kontakt a usnadnění člověka?"

Summerfield uznává omezení spojená s takovými technologiemi AI. "Neucvičili jsme model, aby zasáhl do úvah," říká, což znamená, že prohlášení modelu by mohlo obsahovat také extremistické nebo jiné problematické přesvědčení. Dodává, že přísný výzkum dopadu AI na společnost je zásadní pro pochopení její hodnoty.

"Zdá se mi důležité, abych postupoval opatrně," říká McKinney, "a pak podnikne kroky ke zmírnění těchto obav, pokud je to možné."

1. Tessler, M.H. et al., Science 386, Eadq2852 (2024).

   
   Google Scholar

Stáhněte si bibliografii