Ki-chatbot tuo salaliitoteoreetikot kyseenalaistamaan heidän uskomuksensa

Vaikka monilla salaliitoteorioilla on tuskin mitään sosiaalisia vaikutuksia, ne, jotka saavat suosion, voivat "tehdä todellisia vahinkoja", Fitzgerald sanoo. Se viittaa hyökkäykseen Yhdysvaltain pääkaupunkiin 6. tammikuuta 2021, jota osittain edistivät väitteet manipuloidusta presidentinvaalista vuonna 2020, samoin kuin rokotetun vastaisen retoriikan, joka heikentää rokotuksen hyväksymistä COVID-19: tä vastaan, esimerkiksi.

On mahdollista vakuuttaa ihmiset muuttamaan mielipiteitään, mutta tämä voi olla aikaa kuluttavaa ja uuvuttavaa - ja salaliitoteorioiden pelkkä lukumäärä ja monimuotoisuus vaikeuttavat ongelman ratkaisemista laajemmassa mittakaavassa. Costello ja hänen kollegansa halusivat kuitenkin tutkia suurten äänimallien (LLMS) potentiaalia - nämä voivat käsitellä suuria määriä tietoa nopeasti ja luoda ihmisen kaltaisia ​​vastauksia - salaliiton teorioiden torjumiseksi. "Heitä koulutettiin Internetissä, tuntevat kaikki salaliitoteoriat ja heidän vastaväitteensä, joten se näytti olevan hyvin luonnollinen lisäys", Costello sanoo.

uskokaa tai älä

Tutkijat kehittivät räätälöityjen chatbotin käyttämällä GPT-4 Turbo-viimeisimmän LLM: n CHATGPT-valmistajan OpenAi, joka sijaitsee San Franciscossa, Kaliforniassa, joka koulutettiin vakuuttavasti salaliittoihin. Sitten he rekrytoivat yli 1000 osallistujaa, joiden väestö oli yhtä mieltä Yhdysvaltojen ihmisten kanssa, jotka luottavat suhteiden suhteen, kuten sukupuoleen ja etnisyyteen. Costello sanoo, että joukkue pystyi arvioimaan chatbotin kykyä kumota erilaisia ​​salaliitoja rekrytoimalla ihmisiä, joilla on erilaisia ​​elämäkokemuksia ja omia näkökulmiaan.

Jokaista osallistujaa pyydettiin kuvaamaan salaliitoteoria selittääkseen miksi he pitivät sitä totta ja ilmaisemaan vakaumuksensa vahvuus prosentteina. Nämä yksityiskohdat jaettiin chat -botin kanssa, joka sitten keskusteli osallistujan kanssa, jossa hän mainitsi tiedot ja todisteet, jotka heikensivät tai kumoivat salaliiton ja reagoivat osallistujan kysymyksiin. Chatbotin vastaukset olivat perusteellisia ja yksityiskohtaisia ​​ja saavuttivat usein satoja sanoja. Jokainen keskustelu kesti keskimäärin noin 8 minuuttia.

Lähestymistapa osoittautui tehokkaaksi: heidän valitsemansa salaliitoteorian osallistujien itseluottamus laski keskimäärin 21 %sen jälkeen, kun he olivat vuorovaikutuksessa chat -botin kanssa. Ja 25 % osallistujista muuttui korkeasta luottamuksesta (yli 50 %) epävarmuudeksi. Muutos oli tuskin havaittavissa kontrolliryhmille, jotka puhuivat samanlaisesta aiheesta saman chat -botin kanssa. Seuraava tutkimus kaksi kuukautta myöhemmin osoitti, että näkökulman muutos jatkui monien osallistujien kanssa.

Vaikka tutkimuksen tulokset ovat lupaavia, tutkijat huomauttavat, että osallistujille maksettiin tutkimuksen osallistujia, eivätkä ne ehkä edusta edustavia ihmisiä, jotka ovat syvästi mukana salaliitoteorioissa.

Tehokas interventio

Fitzgerald on innostunut AI: n mahdollisuudesta toimia salaliittojen vastaisesti. "Jos löydämme tavan estää offline -väkivaltaa, se on aina hyvä asia", hän sanoo. Se viittaa siihen, että seuraavat -UP -tutkimuksissa voidaan tutkia erilaisia ​​mittareita chatbotin tehokkuuden arvioimiseksi tai että tutkimus voitaisiin toistaa LLM: ien avulla vähemmän edistyneillä turvallisuustoimenpiteillä varmistaakseen, että ne eivät tehosta salaliitto -ajattelua.

Aikaisemmissa tutkimuksissa on ilmaissut huolensa AI -chatbottien taipumuksesta "hallusinaation" virheelliselle tiedoille. Tutkimuksessa kuitenkin varmisti tämän mahdollisuuden välttämisen - Costello -tiimi pyysi ammatillista tosiasiatesteriä arvioimaan chatbotin toimittamien tietojen tarkkuutta, mikä vahvisti, että mikään lausunnoista ei ollut virheellinen tai poliittisesti puolueellinen.

Costello kertoo, että ryhmä suunnittelee lisäkokeita chatbotin erilaisten strategioiden testaamiseksi esimerkiksi tutkiakseen mitä tapahtuu, kun chatbotien vastaukset ovat töykeitä. He toivovat saavansa lisätietoja siitä, mikä teki tästä erityistutkimuksesta niin menestyvän kokeiden tunnistamisen kautta ", joissa vakaumus ei enää toimi".