Ki-chatbot amène les théoriciens du complot pour remettre en question leurs croyances

Dans une étude publiée le 12 septembre dans Science 1

"Ce travail a remis en question de nombreuses littérature existante qui suppose que nous vivons dans une société post-factuelle", explique Katherine Fitzgerald, qui fait des recherches sur les théories du complot et la désinformation à l'Université de technologie du Queensland à Brisbane, en Australie.

Les analyses antérieures ont suggéré que les gens sont attirés par les théories du complot car ils recherchent la sécurité et la certitude dans un monde turbulent. Mais "ce que nous avons découvert dans ce travail contredit cette explication traditionnelle", explique le co-auteur Thomas Costello, un verger de psychologie à l'Université américaine de Washington DC. "L'une des applications potentiellement passionnantes de cette recherche est que KI pourrait être utilisé pour réfuter les théories du complot dans la vie réelle."

Idées nocives

Bien que de nombreuses théories du complot n'ont pratiquement aucun effet social, ceux qui gagnent en popularité peuvent "faire de réels dégâts", explique Fitzgerald. Il fait référence à l'attaque contre le Capitole américain le 6 janvier 2021, qui a été partiellement alimenté par des affirmations sur une élection présidentielle manipulée en 2020, ainsi que la rhétorique anti-vaccin, qui altère l'acceptation de la vaccination contre Covid-19, comme exemples.

Il est possible de convaincre les gens de changer leur opinion, mais cela peut être du temps et épuisant - et le nombre et la variété des théories du complot rendent difficile de résoudre le problème à plus grande échelle. Cependant, Costello et ses collègues voulaient examiner le potentiel des modèles vocaux importants (LLM) - ceux-ci peuvent traiter rapidement de grandes quantités d'informations et générer des réponses humaines - pour lutter contre les théories du complot. "Ils ont été formés sur Internet, connaissent toutes les théories du complot et leurs contre-arguments, donc cela semblait être un ajout très naturel", explique Costello.

croyez-le ou non

Les chercheurs ont développé un chatbot sur mesure utilisant GPT-4 Turbo-le dernier LLM du fabricant de Chatgpt Openai, basé à San Francisco, en Californie, qui a été formé de manière convaincante contre les complots. Ils ont ensuite recruté plus de 1 000 participants dont la démographie était d'accord avec le peuple américain en ce qui concerne les caractéristiques telles que le sexe et l'ethnicité. Costello dit que l'équipe a été en mesure d'évaluer la capacité du chatbot à réfuter une variété de complots en recrutant des personnes ayant différentes expériences de vie et leurs propres perspectives.

Chaque participant a été invité à décrire une théorie du complot pour expliquer pourquoi ils le considéraient comme vrai et pour exprimer la force de leur conviction en pourcentage. Ces détails ont été partagés avec le bot de chat, qui a ensuite eu une conversation avec le participant, dans lequel il a cité des informations et des preuves qui ont miné ou réfuté le complot et réagi aux questions du participant. Les réponses du chatbot étaient approfondies et détaillées et ont souvent atteint des centaines de mots. En moyenne, chaque conversation a duré environ 8 minutes.

L'approche s'est avérée efficace: la confiance de soi des participants à leur théorie du complot choisie a chuté en moyenne de 21% après avoir interagi avec le bot de chat. Et 25% des participants sont passés de la confiance élevée (plus de 50%) à l'incertitude. Le changement n'était guère perceptible pour les groupes de contrôle, qui parlait sur un sujet similaire avec le même bot de chat. Un examen de suivi deux mois plus tard a montré que le changement de perspective s'est poursuivi avec de nombreux participants.

Bien que les résultats de l'étude soient prometteurs, les chercheurs soulignent que les participants ont été payés par les participants à l'enquête et peuvent ne pas être représentatifs de personnes profondément impliquées dans les théories du complot.

Intervention efficace

Fitzgerald est enthousiasmé par le potentiel de l'IA à agir contre les complots. "Si nous pouvons trouver un moyen d'empêcher la violence hors ligne, c'est toujours une bonne chose", dit-elle. Cela suggère que les examens de suivi pourraient examiner diverses mesures pour évaluer l'efficacité du chatbot ou que l'étude pourrait être répétée en utilisant des LLM avec des mesures de sécurité moins avancées pour s'assurer qu'elles n'intensifient pas la pensée conspiratrice.

Des études antérieures ont exprimé des inquiétudes quant à la tendance des chatbots d'IA à "hallucin" des informations incorrectes. Cependant, l'étude s'est assurée d'éviter cette possibilité - l'équipe de Costello a demandé à un testeur factuel professionnel d'évaluer l'exactitude des informations fournies par le chatbot, ce qui a confirmé qu'aucune des déclarations n'était incorrecte ou politiquement biaisée.

Costello dit que l'équipe prévoit d'autres expériences pour tester diverses stratégies du chatbot, par exemple pour examiner ce qui se passe lorsque les réponses des chatbots sont impolis. Ils espèrent en savoir plus sur ce qui a permis à cette étude spéciale de réussir par l'identification "des expériences dans lesquelles la conviction ne fonctionne plus".