Ki-chatbot az összeesküvés-elméleteket hozza meg, hogy megkérdőjelezzék hitüket

"Ez a munka számos meglévő irodalmat megkérdőjelez, amely feltételezi, hogy egy poszt -taktuális társadalomban élünk" -mondja Katherine Fitzgerald, aki az összeesküvés -elméleteket és a téves információkat kutatja az ausztráliai Brisbane -i Queenslandi Műszaki Egyetemen.

A korábbi elemzések azt sugallták, hogy az embereket vonzzák az összeesküvés -elméletek, mert biztonságot és bizonyosságot keresnek egy viharos világban. De "amit ebben a munkában felfedeztünk, ellentmond ennek a hagyományos magyarázatnak" -mondja Thomas Costello, a washingtoni amerikai egyetem pszichológiai ültetvénye. "A kutatás egyik potenciálisan izgalmas alkalmazása az, hogy a KI felhasználható az összeesküvés -elméletek megcáfolására a valós életben."

káros ötletek

Noha sok összeesküvés -elméletnek alig van társadalmi hatása, azok, akik népszerűséget szereznek, "valódi károkat okozhatnak" - mondja Fitzgerald. Arra utal, hogy az Egyesült Államok Capitoliumának 2021. január 6-i támadására támaszkodtak, amelyet részben a 2020-as manipulált elnökválasztással kapcsolatos állítások, valamint az oltógátló retorika, amely a Covid-19 elleni oltás elfogadását, mint például, példákként támasztja alá a vakcinázást.

Lehetséges meggyőzni az embereket, hogy megváltoztassák véleményüket, de ez időigényes és kimerítő lehet -, és az összeesküvés -elméletek puszta száma és sokfélesége megnehezíti a probléma nagyobb léptékű kezelését. Costello és kollégái azonban meg akarták vizsgálni a nagy hangmodellek (LLMS) potenciálját - ezek nagy mennyiségű információt gyorsan feldolgozhatnak, és az emberi -szerű válaszokat generálják - az összeesküvés -elméletek leküzdésére. "Az interneten képzettek voltak, tudják az összes összeesküvés -elméletet és ellenérveket, tehát nagyon természetes kiegészítésnek tűnt" - mondja Costello.

hidd el vagy sem

A kutatók kidolgoztak egy testreszabott chatbotot a GPT-4 Turbo használatával-a CHATGPT gyártó legújabb LLM-je, az OpenAI székhelye, a kaliforniai San Francisco-ban-ezt meggyőzően képezték össze az összeesküvés ellen. Ezután több mint 1000 résztvevőt toboroztak, akiknek demográfia egyetértett az amerikai emberekkel, akik olyan jellemzőkkel járnak, mint a nemek és az etnikai hovatartozás. Costello szerint a csapat képes volt felmérni a chatbot azon képességét, hogy megcáfolja a különféle összeesküvéseket azáltal, hogy különböző élettapasztalatokkal és saját perspektívájukkal rendelkező embereket toboroz.

Minden résztvevőt felkérték, hogy írja le az összeesküvés -elméletet, hogy elmagyarázza, miért tartják ezt igaznak, és százalékban kifejezik az ítéletük erejét. Ezeket a részleteket megosztották a csevegőbot -tal, amely aztán beszélgetést folytatott a résztvevővel, amelyben olyan információkat és bizonyítékokat idézett, amelyek aláássák vagy megcáfolták az összeesküvést, és reagáltak a résztvevő kérdéseire. A chatbot válaszai alapos és részletesek voltak, és gyakran több száz szót értek el. Átlagosan minden beszélgetés körülbelül 8 percig tartott.

A megközelítés hatékonynak bizonyult: a választott összeesküvés elméletükben a résztvevők önbizalma átlagosan 21 %-kal esett vissza, miután kölcsönhatásba léptek a csevegési botnal. És a résztvevők 25 % -a változott a magas bizalomról (több mint 50 %) bizonytalanságra. A változás alig volt észrevehető a kontrollcsoportok számára, amelyek hasonló témáról szóltak ugyanazzal a csevegőben. Két hónappal később a követő vizsgálat azt mutatta, hogy a perspektíva változása sok résztvevővel folytatódott.

Noha a tanulmány eredményei ígéretesek, a kutatók rámutatnak, hogy a résztvevőknek felmérésben részesítették a résztvevőket, és valószínűleg nem reprezentatívak azokra az emberekre, akik mélyen részt vesznek az összeesküvés -elméletekben.

Hatékony beavatkozás

Fitzgerald lelkes az AI azon képessége, hogy az összeesküvés ellen cselekedjen. "Ha megtaláljuk a módját az offline erőszak megelőzésére, ez mindig jó dolog" - mondja. Azt sugallja, hogy a követő vizsgálatok különféle mutatókat vizsgálhatnak meg a chatbot hatékonyságának értékelése érdekében, vagy hogy a tanulmányt meg lehet ismételni a kevésbé fejlett biztonsági intézkedésekkel rendelkező LLMS segítségével, hogy biztosítsák, hogy azok ne fokozzák az összeesküvési gondolkodást.

A korábbi tanulmányok aggodalmát fejezték ki az AI chatbotok hajlandóságával a helytelen információk „hallucinizálására”. A tanulmány azonban gondoskodott arról, hogy elkerülje ezt a lehetőséget - a Costello csapata egy professzionális ténybeli tesztelőt kért, hogy értékelje a chatbot által szolgáltatott információk pontosságát, amely megerősítette, hogy egyik kijelentés sem volt helytelen vagy politikailag elfogult.

Costello azt mondja, hogy a csapat további kísérleteket tervez a chatbot különféle stratégiáinak tesztelésére, például annak megvizsgálására, hogy mi történik, amikor a chatbotok válaszai durvaak. Reméljük, hogy többet megtudnak arról, hogy mi tette ezt a különleges tanulmányt olyan sikeressé, amelyen "azon kísérletek azonosítása révén, amelyben az ítélet már nem működik".