Ki-Chatbot piedāvā sazvērestības teorētiķus apšaubīt viņu uzskatus

Pētījumā, kas tika publicēts 12. septembrī, Science 1 ar tērzēšanu, kas bija detalizēti un argumenti, kas noveda pie tā, kas mainās uz mainīgu. Šis rezultāts norāda, ka fakti un pierādījumi faktiski var mainīt cilvēku viedokli.

"Šis darbs apšaubīja daudzas esošās literatūras, kas pieņem, ka mēs dzīvojam pēcfaktiskā sabiedrībā," saka Katherine Fitzgerald, kura pēta sazvērestības teorijas un dezinformāciju Kvīnslendas Tehnoloģiju universitātē Brisbenā, Austrālijā.

Iepriekšējās analīzes ir ierosinājušas, ka cilvēkus piesaista sazvērestības teorijas, jo viņi meklē drošību un noteiktību vētrainajā pasaulē. Bet "tas, ko mēs atklājām šajā darbā, ir pretrunā ar šo tradicionālo skaidrojumu," saka Co -autores Tomass Kostello, psiholoģijas dārzs Amerikas universitātē Vašingtonā. "Viens no potenciāli aizraujošajiem šī pētījuma pielietojumiem ir tas, ka KI varētu izmantot, lai atspēkotu sazvērestības teorijas reālajā dzīvē."

kaitīgas idejas

Lai arī daudzām sazvērestības teorijām gandrīz nav nekādas sociālas sekas, tie, kas iegūst popularitāti, var "nodarīt reālu kaitējumu", saka Ficdžeralds. Tas attiecas uz uzbrukumu ASV Kapitolam 2021. gada 6. janvārī, ko daļēji veicināja prasības par manipulētām prezidenta vēlēšanām 2020. gadā, kā arī pret vakcīnu retoriku, kas pasliktina vakcinācijas pieņemšanu pret COVID-19, kā piemērus.

Ir iespējams pārliecināt cilvēkus mainīt savu viedokli, taču tas var būt laika - kas daudz - un nogurdinošs - un milzīgais sazvērestības teoriju skaits un daudzveidība apgrūtina problēmas risināšanu plašākā mērogā. Tomēr Kostello un viņa kolēģi vēlējās izpētīt lielo balss modeļu (LLMS) potenciālu - tie var ātri apstrādāt lielu informācijas daudzumu un radīt cilvēkiem līdzīgas atbildes -, lai apkarotu sazvērestības teorijas. "Viņi tika apmācīti internetā, zina visas sazvērestības teorijas un to pretstatā argumentus, tāpēc tas šķita ļoti dabisks papildinājums," saka Kostello.

Ticiet vai nē

Pētnieki izstrādāja īpaši pielāgotu tērzēšanas robotu, izmantojot GPT-4 Turbo-jaunāko Chatgpt ražotāja Openai LLM, kas atrodas Sanfrancisko, Kalifornijā, tas tika pārliecinoši apmācīts pret sazvērestībām. Pēc tam viņi pieņēma darbā vairāk nekā 1000 dalībnieku, kuru demogrāfija vienojās ar ASV cilvēkiem, kas skaitās saistībā ar tādām īpašībām kā dzimums un etniskā piederība. Costello saka, ka komanda spēja novērtēt tērzēšanas robota spēju atspēkot dažādas sazvērestības, pieņemot darbā cilvēkus ar atšķirīgu dzīves pieredzi un viņu pašu perspektīvām.

Katram dalībniekam tika lūgts aprakstīt sazvērestības teoriju, lai izskaidrotu, kāpēc viņi to uzskata par patiesu, un izteikt viņu pārliecības stiprumu procentos. Šī informācija tika dalīta ar tērzēšanas robotprogrammatūru, kurā pēc tam bija saruna ar dalībnieku, kurā viņš citēja informāciju un pierādījumus, kas grautu vai atspēkoja sazvērestību un reaģēja uz dalībnieka jautājumiem. Čatbota atbildes bija pamatīgas un detalizētas, un tās bieži sasniedza simtiem vārdu. Vidēji katra saruna ilga apmēram 8 minūtes.

Pieeja izrādījās efektīva: viņu izvēlētās sazvērestības teorijas dalībnieku pārliecība vidēji samazinājās vidēji par 21 %pēc tam, kad viņi sazinājās ar tērzēšanas robotu. Un 25 % dalībnieku mainījās no lielas uzticības (vairāk nekā 50 %) uz nenoteiktību. Pārmaiņas gandrīz nebija pamanāmas kontroles grupām, kuras runāja par līdzīgu tēmu ar tādu pašu tērzēšanas robotu. Pēc diviem mēnešiem pēc diviem mēnešiem pārbaudījums parādīja, ka perspektīvas maiņa turpinājās daudziem dalībniekiem.

Lai arī pētījuma rezultāti ir daudzsološi, pētnieki norāda, ka dalībniekiem ir apmaksāti aptaujas dalībnieki un viņi, iespējams, nav pārstāvji cilvēkiem, kuri ir dziļi iesaistīti sazvērestības teorijās.

Efektīva iejaukšanās

Ficdžeralds ir aizrautīgs ar AI potenciālu rīkoties pret sazvērestībām. "Ja mēs varam atrast veidu, kā novērst vardarbību bezsaistē, tā vienmēr ir laba lieta," viņa saka. Tas liek domāt, ka sekojošie eksāmeni varētu pārbaudīt dažādus metrikus, lai novērtētu tērzēšanas robota efektivitāti vai arī, ka pētījumu var atkārtot, izmantojot LLM ar mazāk uzlabotiem drošības pasākumiem, lai nodrošinātu, ka tie nepastiprina sazvērestības domāšanu.

Iepriekšējie pētījumi ir pauduši bažas par AI tērzēšanas robotu tendenci "halucinēt" nepareizu informāciju. Tomēr pētījums pārliecinājās, ka izvairījās no šīs iespējas - Costello komanda lūdza profesionālu faktisko testeri novērtēt tērzēšanas robota sniegtās informācijas precizitāti, kas apstiprināja, ka neviens no paziņojumiem nav nepareizs vai politiski neobjektīvs.

Costello saka, ka komanda plāno turpmākus eksperimentus, lai pārbaudītu dažādas tērzēšanas robota stratēģijas, piemēram, lai pārbaudītu, kas notiek, kad tērzēšanas robotu atbildes ir rupjas. Viņi cer uzzināt vairāk par to, kas padarīja šo īpašo pētījumu tik veiksmīgu, identificējot "eksperimentus, kuros pārliecība vairs nedarbojas".