Ki-Chatbot prinaša teoretike zarote, da dvomijo o svojih prepričanjih

"To delo je podvomilo v veliko obstoječe literature, ki predvideva, da živimo v post -dejavni družbi," pravi Katherine Fitzgerald, ki raziskuje teorije zarote in napačne informacije na Queensland University of Technology v Brisbaneu v Avstraliji.

Prejšnje analize kažejo, da ljudi privlači teorije zarote, ker iščejo varnost in gotovost v burnem svetu. Toda "to, kar smo odkrili v tem delu, je v nasprotju s to tradicionalno razlago," pravi Co -author Thomas Costello, psihološki sadovnjak na ameriški univerzi v Washingtonu. "Ena od potencialno vznemirljivih aplikacij te raziskave je, da bi lahko KI v resničnem življenju uporabili za ovrstitev teorij zarote."

škodljive ideje

Čeprav veliko teorij zarote skoraj nima družbenih učinkov, lahko tisti, ki pridobijo priljubljenost, "naredijo resnično škodo", pravi Fitzgerald. Na napad na ameriški Kapitol se nanaša 6. januarja 2021, ki so ga delno spodbudili trditve o manipuliranih predsedniških volitvah leta 2020, pa tudi o retoriki proti cepljenju, ki poslabša cepljenje proti Covid-19 kot primeri.

Možno je prepričati ljudi, da spremenijo svoje mnenje, vendar je to lahko čas - zajet in naporno - in veliko število in raznolikost teorij zarote otežuje reševanje problema v večjem obsegu. Vendar so Costello in njegovi sodelavci želeli preučiti potencial velikih glasovnih modelov (LLM) - ti lahko hitro obdelujejo velike količine informacij in ustvarijo človeške odgovore - za boj proti teorijam zarote. "Bili so usposobljeni na internetu, poznajo vse teorije zarote in njihove nasprotne argumente, zato se je zdelo, da je to zelo naraven dodatek," pravi Costello.

Verjeli ali ne

Raziskovalci so razvili krojaški chatbot z uporabo GPT-4 Turbo-najnovejši LLM proizvajalca Chatgpt OpenAI s sedežem v San Franciscu v Kaliforniji, ki je bil prepričljivo usposobljen proti zarotam. Nato so zaposlili več kot 1000 udeležencev, katerih demografija se je strinjala z ZDA, ki štejejo glede na značilnosti, kot sta spol in narodnost. Costello pravi, da je ekipa uspela oceniti sposobnost klepeta, da ovrže različne zarote z zaposlovanjem ljudi z različnimi življenjskimi izkušnjami in lastnimi perspektivami.

Vsak udeleženec je bil pozvan, naj opiše teorijo zarote, da bi razložil, zakaj se jim zdi resnična, in izraziti moč njihovega prepričanja kot odstotek. Te podrobnosti so bile deljene s klepetalnim botom, ki je nato vodil pogovor z udeležencem, v katerem je navedel informacije in dokaze, ki so spodkopali ali zavrnili zaroto in se odzvali na vprašanja udeleženca. Odgovori klepeta so bili temeljiti in podrobni in so pogosto dosegli na stotine besed. V povprečju je vsak pogovor trajal približno 8 minut.

Pristop se je izkazal za učinkovit: samozavest udeležencev v izbrani teoriji zarote se je v povprečju zmanjšala za 21 %, potem ko so komunicirali s klepetalnim botom. In 25 % udeležencev se je spremenilo iz visokega zaupanja (več kot 50 %) v negotovost. Sprememba je bila komaj opazna za kontrolne skupine, ki so na podobni temi spregovorili z istim klepetalnim botom. Nadaljnji izpit dva meseca pozneje je pokazal, da se je sprememba perspektive nadaljevala pri mnogih udeležencih.

Čeprav so rezultati študije obetavni, raziskovalci poudarjajo, da so bili udeleženci plačani udeleženci ankete in morda niso reprezentativni za ljudi, ki so globoko vpleteni v teorije zarote.

Efektivni poseg

Fitzgerald je navdušen nad potencialom AI, da deluje proti zarotam. "Če najdemo način, kako preprečiti nasilje brez povezave, je to vedno dobra stvar," pravi. Predvideva, da bi lahko sledilni pregledi preučili različne meritve, da bi ocenili učinkovitost chatbota ali da je mogoče študijo ponoviti z uporabo LLM z manj naprednimi varnostnimi ukrepi, da bi zagotovili, da ne bodo okrepili zarotovalnega razmišljanja.

Prejšnje študije so izrazile zaskrbljenost zaradi nagnjenosti k klepetalnimi AI k "halucinirajo" napačne informacije. Vendar je študija poskrbela, da se bo izognila tej možnosti - Costellova ekipa je profesionalnega dejanskega preizkuševalca prosila, naj oceni natančnost informacij, ki jih je posredoval Chatbot, kar je potrdilo, da nobena od izjav ni bila napačna ali politično pristranska.

Costello pravi, da ekipa načrtuje nadaljnje eksperimente za preizkušanje različnih strategij chatbota, na primer, da preuči, kaj se zgodi, ko so odgovori chatbotov nesramni. Upajo, da bodo izvedeli več o tem, kaj je bila ta posebna študija tako uspešna z identifikacijo "poskusov, v katerih obsodba ne deluje več".