1 s chatovacím botem, které poskytly podrobné odpovědi a argumenty, které vedly na několik měsíců, které byly na prvním místě. Tento výsledek naznačuje, že fakta a důkazy mohou skutečně změnit názor lidí.

"Tato práce zpochybnila mnoho stávající literatury, která předpokládá, že žijeme v post -faftální společnosti," říká Katherine Fitzgerald, která zkoumá konspirační teorie a dezinformace na Queensland University of Technology v australské Brisbane.

Dřívější analýzy naznačují, že lidé jsou přitahováni konspirační teorie, protože hledají bezpečnost a jistotu v turbulentním světě. Ale „to, co jsme objevili v této práci, je v rozporu s tímto tradičním vysvětlením,“ říká Co -Autor Thomas Costello, psychologický sad na americké univerzitě ve Washingtonu DC. "Jednou z potenciálně vzrušujících aplikací tohoto výzkumu je, že KI by mohl být použit k vyvrácení konspiračních teorií v reálném životě."

škodlivé nápady

Ačkoli mnoho konspiračních teorií má téměř žádné sociální účinky, ti, kteří získají popularitu, mohou „způsobit skutečné poškození“, říká Fitzgerald. Odkazuje na útok na americký Capitol 6. ledna 2021, který byl částečně podporován nároky na manipulované prezidentské volby v roce 2020, jakož i na rétoriku anti-vakcine, která jako příklady zhoršuje přijetí očkování proti Covid-19.

Je možné přesvědčit lidi, aby změnili svůj názor, ale to může být časově - spočívající a vyčerpávající - a pouhé číslo a rozmanitost konspiračních teorií ztěžuje řešení problému ve větším měřítku. Costello a jeho kolegové však chtěli prozkoumat potenciál velkých hlasových modelů (LLM) - tyto mohou rychle zpracovat velké množství informací a generovat člověka -podobné odpovědi - pro boj proti konspiračním teoriím. „Byli vyškoleni na internetu, znali všechny konspirační teorie a jejich protiopatření, takže se zdálo, že to byl velmi přirozený doplněk,“ říká Costello.

věřte tomu nebo ne

Vědci vyvinuli chatbot na míru pomocí GPT-4 Turbo-nejnovější LLM výrobce Chatgpt OpenAI se sídlem v San Franciscu v Kalifornii-to bylo přesvědčivě vyškoleno proti spiknutí. Poté najali více než 1 000 účastníků, jejichž demografie souhlasila s americkými lidmi, kteří se počítali ve vztahu k charakteristikám, jako je pohlaví a etnicita. Costello říká, že tým byl schopen posoudit schopnost chatbota vyvrátit různé spiknutí najímáním lidí s různými životními zkušenostmi a jejich vlastními perspektivami.

Každý účastník byl požádán, aby popsal konspirační teorii, aby vysvětlil, proč to považuje za pravdivé a vyjádřili sílu svého přesvědčení jako procento. Tyto podrobnosti byly sdíleny s chatovacím botem, který pak měl rozhovor s účastníkem, ve kterém citoval informace a důkazy, které podkopaly nebo vyvrátily spiknutí a reagovaly na otázky účastníka. Odpovědi chatbota byly důkladné a podrobné a často dosáhly stovek slov. V průměru každá konverzace trvala asi 8 minut.

Přístup se ukázal jako efektivní: sebevědomí účastníků jejich zvolené teorie spiknutí kleslo v průměru o 21 %poté, co interagovaly s botem chatu. A 25 % účastníků se změnilo z vysoké důvěry (více než 50 %) na nejistotu. Změna byla pro kontrolní skupiny jen stěží patrná, která hovořila o podobném tématu se stejným chatovým botem. Zkouška následovníka o dva měsíce později ukázala, že změna perspektivy pokračovala u mnoha účastníků.

Ačkoli jsou výsledky studie slibné, vědci poukazují na to, že účastníci byli zaplaceni účastníky průzkumu a nemusí být reprezentativní pro lidi, kteří jsou hluboce zapojeni do konspiračních teorií.

Efektivní zásah

Fitzgerald je nadšený potenciálem AI jednat proti spiknutí. „Pokud dokážeme najít způsob, jak zabránit offline násilí, je to vždy dobrá věc,“ říká. To naznačuje, že následným zkouškám by mohla prozkoumat různé metriky, aby se vyhodnotila účinnost chatbota nebo že studie by mohla být opakována pomocí LLM s méně pokročilými bezpečnostními opatřeními, aby se zajistilo, že nezasinfikují spiklenecké myšlení.

Dřívější studie vyjádřily obavy ohledně tendence AI chatbotů „halucinovat“ nesprávné informace. Studie se však ujistila, že se této možnosti vyhne - tým Costello požádal profesionálního faktického testera, aby vyhodnotil přesnost informací poskytnutých Chatbotem, což potvrdilo, že žádný z prohlášení nebyl nesprávný nebo politicky zaujatý.

Costello říká, že tým plánuje další experimenty k testování různých strategií chatbota, například pro prozkoumání toho, co se stane, když jsou odpovědi chatbotů hrubých. Doufají, že se dozví více o tom, co učinilo tuto speciální studii tak úspěšnou prostřednictvím identifikace „experimentů, ve kterých již přesvědčení nefunguje“.