Ki-Chatbot donosi teoretičare zavjere kako bi doveo u pitanje svoja uvjerenja

štetne ideje

Iako mnoge teorije zavjere gotovo da nemaju nikakve društvene učinke, oni koji dobiju popularnost mogu "nanijeti stvarnu štetu", kaže Fitzgerald. Odnosi se na napad na američki Kapitol 6. siječnja 2021., koji je djelomično potaknut tvrdnjama o manipuliranim predsjedničkim izborima 2020. godine, kao i na retoriku protiv cjepiva, što smanjuje prihvaćanje cijepljenja protiv COVID-19, kao primjere.

Moguće je uvjeriti ljude da promijene svoje mišljenje, ali to može biti vrijeme i iscrpljujuće - a čisti broj i raznolikost teorija zavjere otežava rješavanje problema u većem obimu. Međutim, Costello i njegovi kolege željeli su ispitati potencijal velikih glasovnih modela (LLMS) - oni mogu brzo obraditi velike količine informacija i generirati odgovore nalik na čovjeka - u borbi protiv teorija zavjere. "Obučeni su na Internetu, znaju sve teorije zavjere i njihove kontra argumente, pa se činilo da je to vrlo prirodan dodatak", kaže Costello.

Vjerovali ili ne

Istraživači su razvili prilagođeni chatbot koristeći GPT-4 Turbo-najnovije LLM proizvođača chatgpt Openai sa sjedištem u San Franciscu u Kaliforniji-koji je uvjeren uvjerljivo protiv zavjere. Potom su zaposlili preko 1.000 sudionika čija se demografija složila s ljudima koji se broje u odnosu na karakteristike poput spola i etničke pripadnosti. Costello kaže da je tim bio u stanju procijeniti sposobnost chatbota da pobija razne zavjere regrutovanjem ljudi s različitim životnim iskustvima i vlastitim perspektivama.

Od svakog sudionika zamoljeno je da opiše teoriju zavjere kako bi objasnio zašto su to smatrali istinitim i da izrazi snagu svog uvjerenja kao postotak. Ti su detalji podijeljeni s chat botom, koji je potom razgovarao s sudionikom, u kojima je naveo informacije i dokaze koji su potkopavali ili odbacili zavjeru i reagirali na pitanja sudionika. Odgovori chatbota bili su temeljiti i detaljni i često su dosegli stotine riječi. U prosjeku je svaki razgovor trajao oko 8 minuta.

Pokazalo se da je pristup učinkovit: samopouzdanje sudionika u njihovoj odabranoj teoriji zavjere u prosjeku je palo za 21 %nakon što su komunicirali s chat botom. I 25 % sudionika promijenilo se iz visokog povjerenja (preko 50 %) u neizvjesnost. Promjena je teško bila uočljiva za kontrolne skupine, koje su govorile o sličnoj temi s istim botom za chat. Slijedeći ispit dva mjeseca kasnije pokazao je da se promjena perspektive nastavila s mnogim sudionicima.

Iako su rezultati studije obećavajući, istraživači ističu da su sudionici plaćeni sudionici ankete i da možda nisu reprezentativni za ljude koji su duboko uključeni u teorije zavjere.

Učinkovita intervencija

Fitzgerald je oduševljen potencijalom AI da djeluje protiv zavjere. "Ako možemo pronaći način da spriječimo izvanmrežno nasilje, to je uvijek dobra stvar", kaže ona. To sugerira da bi slijedeća ispitivanja mogla ispitati različite metrike kako bi se procijenila učinkovitost chatbota ili da bi se studija mogla ponoviti pomoću LLMS -a s manje naprednim mjerama sigurnosti kako bi se osiguralo da ne pojačaju konspirativno razmišljanje.

Ranije studije izrazile su zabrinutost zbog sklonosti AI chatbota da "haluciniraju" netočne informacije. Međutim, studija se pobrinula da izbjegne ovu mogućnost - Costelloov tim zatražio je od profesionalnog činjeničnog ispitivača da procijeni točnost informacija koje je dao chatbot, što je potvrdilo da nijedna izjava nije bila netočna ili politički pristrana.

Costello kaže da tim planira daljnje eksperimente kako bi testirao različite strategije chatbota, na primjer, kako bi ispitao što se događa kada su odgovori chatbotova nepristojni. Nadaju se da će saznati više o onome što je ovu posebnu studiju učinilo tako uspješnom kroz identifikaciju "eksperimenata u kojima uvjerenje više ne djeluje".