Ki-chatbot toob vandenõuteoreetikud oma veendumuste kahtluse alla

Ehkki paljudel vandenõuteooriatel on vaevalt sotsiaalseid mõjusid, võivad populaarsuse omandajad "tõeliselt kahju tekitada", ütles Fitzgerald. See viitab rünnakule USA Kapitooliumi vastu 6. jaanuaril 2021, mida osaliselt õhutasid nõuded 2020. aastal manipuleeritud presidendivalimiste kohta, samuti vaktsineerimisevastase retoorikaga, mis kahjustab näidetena vaktsineerimise aktsepteerimist CovID-19 suhtes.

Inimesi on võimalik veenda oma arvamust muutma, kuid see võib olla ajaline ja kurnav - ning vandenõuteooriate suur arv ja mitmekesisus muudavad probleemi lahendamisel keeruliseks. Costello ja tema kolleegid soovisid siiski uurida suurte häälmudelite (LLM -ide) potentsiaali - need saavad kiiresti töödelda suuri teavet ja genereerida inimlikke vastuseid - vandenõuteooriate vastu võitlemiseks. "Neid koolitati Internetis, teavad kõiki vandenõuteooriaid ja nende vastuargumente, nii et see tundus olevat väga loomulik lisa," ütleb Costello.

uskuge või mitte

Teadlased töötasid välja kohandatud vestlusbotti, kasutades GPT-4 Turbo-Californias San Franciscos asuva ChatGPT tootja OpenAi uusimat LLM-i-seda koolitati veenvalt vandenõude vastu. Seejärel värbasid nad üle 1000 osaleja, kelle demograafia nõustus USA inimestega, kes loevad seoses selliste omadustega nagu sugu ja etniline kuuluvus. Costello ütleb, et meeskond suutis hinnata vestlusboti võimet ümber lükata mitmesuguseid vandenõu, värvates erinevaid elukogemusi ja oma vaatenurki inimesi.

Igal osalejal paluti kirjeldada vandenõuteooriat, et selgitada, miks nad pidasid seda tõeseks, ja väljendada oma veendumuse tugevust protsendina. Neid üksikasju jagati vestlusbottiga, mis vestles seejärel osalejaga, milles ta tsiteeris teavet ja tõendeid, mis õõnestasid või lükkasid ümber vandenõu ning reageeris osaleja küsimustele. Vestlusboti vastused olid põhjalikud ja detailsed ning jõudsid sageli sadade sõnadeni. Keskmiselt kulus iga vestlus umbes 8 minutit.

Lähenemisviis osutus tõhusaks: nende valitud vandenõuteoorias osalejate enesekindlus langes pärast vestlusbottiga suhtlemist keskmiselt 21 %. Ja 25 % osalejatest muutus kõrgelt usaldusest (üle 50 %) ebakindluseks. Muutus oli kontrollrühmade jaoks vaevalt märgatav, kes rääkisid sarnasel teemal sama vestlusbottiga. Kaks kuud hiljem järgnenud eksam näitas, et perspektiivi muutus jätkus paljude osalejatega.

Ehkki uuringu tulemused on paljutõotavad, osutavad teadlased, et osalejatele maksti uuringus osalejaid ja nad ei pruugi esindada inimesi, kes on vandenõuteooriatega sügavalt seotud.

tõhus sekkumine

Fitzgerald on entusiastlik AI potentsiaalist vandenõude vastu. "Kui leiame viisi, kuidas vältida võrguühenduseta vägivalda, on see alati hea asi," ütleb naine. See viitab sellele, et jälgimisproovid võiksid uurida erinevaid mõõdikuid, et hinnata vestlusboti tõhusust või et uuringut saaks korrata LLM -ide abil vähem täiustatud turvameetmetega, et tagada vandenõu mõtlemine.

Varasemad uuringud on väljendanud muret AI vestlusbottide kalduvuse pärast "hallutsineerida" valet teavet. Kuid uuring väldib seda võimalust - Costello meeskond palus professionaalsel faktilisel testijal hinnata vestlusboti esitatud teabe täpsust, mis kinnitas, et ükski väide ei olnud vale ega poliitiliselt kallutatud.

Costello ütleb, et meeskond plaanib täiendavaid katseid vestlusboti mitmesuguste strateegiate testimiseks, et uurida, mis juhtub siis, kui vestlusbotide vastused on ebaviisakad. Nad loodavad rohkem teada saada selle kohta, mis tegi selle erilise uuringu nii edukaks nende tuvastamise kaudu "katsete, milles süüdimõistmine enam ei toimi".