Ki-Chatbot prináša konšpiračných teoretikov, aby spochybnili ich presvedčenie

Aj keď veľa konšpiračných teórií má takmer žiadne sociálne účinky, tí, ktorí získavajú popularitu, môžu „spôsobiť skutočné škody,“ hovorí Fitzgerald. Vzťahuje sa na útok na americký kapitol 6. januára 2021, ktorý bol čiastočne poháňaný nárokmi na manipulované prezidentské voľby v roku 2020, ako aj proti rétorike anti-vaccine, ktorá zhoršuje očkovacie prijatie proti Covid-19, ako príkladom.

Je možné presvedčiť ľudí, aby zmenili svoj názor, ale to môže byť časovo náročné a vyčerpávajúce - a samotné číslo a rozmanitosť konšpiračných teórií sťažuje riešenie problému vo väčšom rozsahu. Costello a jeho kolegovia však chceli preskúmať potenciál veľkých hlasových modelov (LLMS) - tieto môžu rýchlo spracovať veľké množstvo informácií a generovať odpovede podobné ľudským človekom na boj proti konšpiračným teóriám. „Boli vyškolení na internete, poznajú všetky konšpiračné teórie a ich protinávrhy, takže sa zdalo byť veľmi prirodzeným doplnkom,“ hovorí Costello.

Verte tomu alebo nie

Vedci vyvinuli chatbot na mieru s použitím Turbo GPT-4 Turbo-najnovšieho LLM výrobcu Chatgpt OpenAI so sídlom v San Franciscu v Kalifornii-to bolo presvedčivo vyškolené proti sprisahaniu. Potom prijali viac ako 1 000 účastníkov, ktorých demografia súhlasila s ľuďmi v USA, ktorí sa počítali vo vzťahu k charakteristikám, ako je pohlavie a etnicita. Costello hovorí, že tím bol schopný posúdiť schopnosť chatbot vyvrátiť rôzne sprisahania náborom ľudí s rôznymi životnými skúsenosťami a ich vlastnými perspektívami.

Každý účastník bol požiadaný, aby opísal konšpiračnú teóriu, aby vysvetlil, prečo to považuje za pravdu, a vyjadriť silu svojho presvedčenia ako percento. Tieto detaily sa zdieľali s chatom, ktorý potom rozhovor s účastníkom, v ktorom citoval informácie a dôkazy, ktoré podkopali alebo vyvrátili sprisahanie a reagovali na otázky účastníka. Odpovede chatbotu boli dôkladné a podrobné a často dosahovali stovky slov. V priemere každá konverzácia trvala asi 8 minút.

Prístup sa ukázal ako účinný: sebavedomie účastníkov v ich zvolenej teórii sprisahania klesla v priemere o 21 %potom, čo interagovali s chatovaným robotom. A 25 % účastníkov sa zmenilo z vysokej dôvery (viac ako 50 %) na neistotu. Táto zmena bola sotva viditeľná pre kontrolné skupiny, ktoré hovorili o podobnej téme s rovnakým chatovaným robotom. Sledovanie vyšetrenia o dva mesiace neskôr ukázalo, že zmena perspektívy pokračovala u mnohých účastníkov.

Aj keď sú výsledky štúdie sľubné, vedci poukazujú na to, že účastníkmi boli platení účastníkov prieskumu a nemusia byť reprezentatívni pre ľudí, ktorí sa hlboko zapájajú do konšpiračných teórií.

Efektívny zásah

Fitzgerald je nadšený z potenciálu AI konať proti sprisahaniu. „Ak nájdeme spôsob, ako zabrániť offline násilia, je to vždy dobrá vec,“ hovorí. Naznačuje, že sledovacie vyšetrenia by mohli preskúmať rôzne metriky na vyhodnotenie efektívnosti chatbotu alebo aby sa štúdia mohla opakovať pomocou LLM s menej pokročilými bezpečnostnými opatreniami, aby sa zabezpečilo, že nezintenzívňujú sprisahanie.

Predchádzajúce štúdie vyjadrili obavy týkajúce sa tendencie chatbotov AI „halucinovať“ nesprávne informácie. Štúdia sa však uistila, že sa tejto možnosti vyhne - tím Costello požiadal profesionálneho faktického testera, aby vyhodnotil presnosť informácií poskytnutých chatbotom, čo potvrdilo, že žiadne z vyhlásení neboli nesprávne alebo politicky skreslené.

Costello hovorí, že tím plánuje ďalšie experimenty na testovanie rôznych stratégií chatbotu, napríklad na preskúmanie toho, čo sa stane, keď sú odpovede chatbotov hrubé. Dúfajú, že sa dozviete viac o tom, čo urobilo túto špeciálnu štúdiu tak úspešnou prostredníctvom identifikácie „experimentov, v ktorých už presvedčenie už nefunguje“.