<Фигура клас = "Фигура"> <източник type = "image/webp" srcset = "https://media.nature.com/lw767/magazine-assets/d41586-02966-6/d41586-02966-6_27684378.jpg? https://media.nature.com/lw319/magazine-assets/d41586-02966-6/d41586-02966-6_27684378.jpg?as=webp 319w "размери =" (max-width) 319px, (min-width: 1023px) 100vw, 76px ">
Областите показват, че изкуственият интелект (AI) може да бъде ценен инструмент в борбата срещу теориите на конспирацията. Те разработиха чат бот, който може да опровергае невярна информация и да насърчи хората да поставят под въпрос начина си на мислене.

В проучване, публикувано на 12 септември в Science 1 с чата за чат, който предоставя подробни отговори и аргументи, което води до промяна в мисленето, което е на последно място за няколко месеца. Този резултат показва, че фактите и доказателствата всъщност могат да променят мнението на хората.

"Тази работа постави под въпрос много съществуваща литература, която предполага, че живеем в постфактическо общество", казва Катрин Фицджералд, която изследва конспиративните теории и дезинформацията в Техническия университет в Куинсланд в Бризбейн, Австралия.

По -ранните анализи предполагат, че хората са привлечени от теориите на конспирацията, защото търсят сигурност и сигурност в бурен свят. Но „това, което открихме в тази работа, противоречи на това традиционно обяснение“, казва съавторът Томас Костело, овощна градина по психология в Американския университет във Вашингтон. "Едно от потенциално вълнуващите приложения на това изследване е, че Ки може да се използва за опровержение на теориите за конспирация в реалния живот."

вредни идеи

Въпреки че много теории за конспирация почти нямат социални ефекти, тези, които придобият популярност, могат да „нанесат реални щети“, казва Фицджералд. Тя се отнася до нападението срещу Капитолия на САЩ на 6 януари 2021 г., което беше частично подхранвано от твърдения за манипулирани президентски избори през 2020 г., както и за анти-ваксинната реторика, което нарушава приемането на ваксинацията срещу Covid-19 като примери.

; Въпреки това, Костело и неговите колеги искаха да разгледат потенциала на големите гласови модели (LLM) - те могат да обработят големи количества информация бързо и да генерират отговори, подобни на човека - за борба с конспирационните теории. „Те бяха обучени в интернет, познават всички теории за конспирация и техните контра аргументи, така че изглеждаше много естествено допълнение“, казва Костело.

Вярвате или не

Изследователите разработиха персонализиран чатбот, използващ GPT-4 Turbo-последният LLM на производителя на Chatgpt Openai, базиран в Сан Франциско, Калифорния-това беше обучено убедително срещу конспирациите. След това те наеха над 1000 участници, чиято демография се съгласи с хората от САЩ, които броят във връзка с характеристики като пол и етническа принадлежност. Костело казва, че екипът е успял да оцени способността на чатбота да опровергае различни конспирации, като набира хора с различен житейски опит и собствените си перспективи.

Всеки участник беше помолен да опише теорията на конспирацията, за да обясни защо го смятат за истинско и да изразят силата на убеждението си като процент. Тези подробности бяха споделени с чат бота, който след това проведе разговор с участника, в който той цитира информация и доказателства, които подкопават или опровергават конспирацията и реагираха на въпросите на участника. Отговорите на чатбота бяха задълбочени и подробни и често достигнаха стотици думи. Средно всеки разговор отне около 8 минути.

Подходът се оказа ефективен: самоувереността на участниците в избраната от тях теория на конспирацията падна средно с 21 %, след като те взаимодействаха с чат бота. И 25 % от участниците се промениха от високо доверие (над 50 %) в несигурност. Промяната едва ли беше забележима за контролните групи, които говориха по подобна тема със същия бот за чат. Следващ изпит за последващо два месеца по -късно показа, че промяната на перспективата продължава при много участници.

Въпреки че резултатите от проучването са обещаващи, изследователите посочват, че участниците са били платени участници в проучването и може да не са представителни за хора, които са дълбоко ангажирани в теориите на конспирацията.

Ефективна интервенция

Фицджералд е ентусиазиран от потенциала на ИИ да действа срещу конспирации. "Ако можем да намерим начин да предотвратим офлайн насилието, това винаги е добро нещо", казва тя. Това предполага, че следните прегледи могат да изследват различни показатели, за да оценят ефективността на чатбота или че проучването може да бъде повторено с помощта на LLM с по -малко напреднали мерки за сигурност, за да се гарантира, че те не засилват конспираторското мислене.

По -ранните проучвания изразиха опасения относно тенденцията на AI чатботите да „халюцинират“ неправилна информация. Проучването обаче се увери, че избягва тази възможност - екипът на Costello помоли професионален фактически тестер да оцени точността на информацията, предоставена от чатбота, която потвърди, че нито едно от твърденията не е неправилно или политически предубедено.

Costello казва, че екипът планира допълнителни експерименти, за да тества различни стратегии на чатбота, например, за да проучи какво се случва, когато отговорите на чатботите са груби. Те се надяват да научат повече за това, което направи това специално проучване толкова успешно чрез идентифицирането „на експериментите, в които присъдата вече не работи“.