Ki-chatbot sukelia sąmokslo teoretikus suabejoti jų įsitikinimais
Ki-chatbot sukelia sąmokslo teoretikus suabejoti jų įsitikinimais
tyrime, kuris buvo paskelbtas rugsėjo 12 d. Science
"Šis darbas suabejojo daugybe egzistuojančių literatūros, kuria daroma prielaida, kad mes gyvename veiksminėje visuomenėje", -sako Katherine Fitzgerald, tyrinėjanti sąmokslo teorijas ir dezinformaciją Kvinslando technologijos universitete Brisbene, Australijoje.
Ankstesnės analizės rodo, kad žmones traukia sąmokslo teorijos, nes jie ieško saugumo ir tikrumo neramiame pasaulyje. Tačiau „Tai, ką atradome šiame darbe, prieštarauja šiam tradiciniam paaiškinimui“, -sako Co -Author Thomas Costello, psichologijos sodo Vašingtono DC Amerikos universitete. "Vienas iš potencialiai įdomių šio tyrimo pritaikymų yra tas, kad KI galėtų būti naudojamas paneigti sąmokslo teorijas realiame gyvenime."
kenksmingos idėjos
Nors daugelis sąmokslo teorijų beveik neturi jokio socialinio poveikio, tie, kurie įgyja populiarumą, gali „padaryti realią žalą“, - sako Fitzgeraldas. Tai reiškia 2021 m. Sausio 6 d. Išpuolį prieš JAV kapitulą, kurį iš dalies paskatino pretenzijos apie manipuliuotus prezidento rinkimus 2020 m.
Galima įtikinti žmones pakeisti savo nuomonę, tačiau tai gali prireikti laiko ir varginančiam - o dėl vien tik sąmokslo teorijų ir įvairovės sunku išspręsti problemą didesniu mastu. Tačiau „Costello“ ir jo kolegos norėjo ištirti didelių balso modelių (LLMS) potencialą - tai gali greitai apdoroti didelius informacijos kiekius ir generuoti žmogaus panašius atsakymus - kovoti su sąmokslo teorijomis. „Jie buvo mokomi internete, žino visas sąmokslo teorijas ir jų priešingus argumentus, todėl atrodė, kad tai labai natūralus papildymas“, - sako Costello.
patikėk ar ne
Tyrėjai sukūrė pritaikytą „Chatbot“, naudodami „GPT-4 Turbo“-naujausią „ChatGPT“ gamintojo „Openai“, įsikūrusio San Franciske, Kalifornijoje, LLM-tai buvo įtikinamai apmokytas prieš sąmokslus. Tada jie įdarbino daugiau nei 1000 dalyvių, kurių demografija sutiko su JAV žmonėmis, atsižvelgiant į tokias savybes kaip lytis ir etninė priklausomybė. „Costello“ sako, kad komanda sugebėjo įvertinti „Chatbot“ sugebėjimą paneigti įvairius sąmokslus, įdarbindama skirtingą gyvenimo patirtį ir savo perspektyvas.
Kiekvieno dalyvio buvo paprašyta apibūdinti sąmokslo teoriją, kuri paaiškintų, kodėl, jų manymu, tai yra teisinga, ir išreikšti savo įsitikinimo stiprumą procentais. Šios detalės buvo pasidalytos su „Chat Bot“, kuri tada kalbėjosi su dalyviu, kuriame jis cituoja informaciją ir įrodymus, kurie pakenkė ar paneigė sąmokslą ir reagavo į dalyvio klausimus. „Chatbot“ atsakymai buvo išsamūs ir išsamūs ir dažnai pasiekė šimtus žodžių. Vidutiniškai kiekvienas pokalbis užtruko apie 8 minutes.
Požiūris pasirodė efektyvus: jų pasirinktos sąmokslo teorijos dalyvių pasitikėjimas savimi vidutiniškai sumažėjo 21 %po to, kai jie bendravo su pokalbių robotu. Ir 25 % dalyvių pasikeitė iš „High Trust“ (daugiau nei 50 %) į netikrumą. Pokytis vargu ar buvo pastebimas kontrolės grupėms, kurios kalbėjo panašia tema su ta pačia pokalbių robotu. Po dviejų mėnesių atliktas tyrimas parodė, kad perspektyvos pasikeitimas tęsėsi kartu su daugeliu dalyvių.
Nors tyrimo rezultatai yra perspektyvūs, tyrėjai pabrėžia, kad dalyviams buvo mokama apklausos dalyviai ir jie gali neatspindėti žmonių, kurie yra giliai įsitraukę į sąmokslo teorijas.
efektyvi intervencija
Fitzgeraldas entuziastingai vertina AI potencialą veikti prieš sąmokslą. „Jei galime rasti būdą, kaip užkirsti kelią smurtui neprisijungus, tai visada yra geras dalykas“, - sako ji. Tai rodo, kad tolesni tyrimai galėtų ištirti įvairius metrikus, kad būtų galima įvertinti pokalbių programos veiksmingumą arba kad tyrimą galima pakartoti naudojant LLMS su mažiau pažengusiomis saugumo priemonėmis, siekiant užtikrinti, kad jie nestiprina sąmokslinio mąstymo.
Ankstesni tyrimai išreiškė susirūpinimą dėl AI pokalbių programų tendencijos „haliucinuoti“ neteisingą informaciją. Tačiau tyrimas užtikrino, kad išvengtų šios galimybės - „Costello“ komanda paprašė profesionalaus faktinio testerio įvertinti „Chatbot“ pateiktos informacijos tikslumą, kuris patvirtino, kad nė vienas iš teiginių nebuvo neteisingas ar politiškai šališkas.
„Costello“ sako, kad komanda planuoja tolesnius eksperimentus, norėdama patikrinti įvairias „Chatbot“ strategijas, pavyzdžiui, ištirti, kas nutinka, kai „Chatbots“ atsakymai yra grubūs. Jie tikisi sužinoti daugiau apie tai, kas padarė šį specialų tyrimą taip sėkmingai identifikuodami „eksperimentų, kuriuose įsitikinimas nebeveikia“.