Ki-chatbot traz teóricos da conspiração para questionar suas crenças
Ki-chatbot traz teóricos da conspiração para questionar suas crenças
Em um estudo publicado em 12 de setembro em ciência
"Este trabalho questionou muitas literatura existente que assumem que vivemos em uma sociedade pós -fabricação", diz Katherine Fitzgerald, que está pesquisando teorias da conspiração e desinformação na Universidade de Tecnologia de Queensland em Brisbane, Austrália.
Análises anteriores sugeriram que as pessoas são atraídas pelas teorias da conspiração porque estão procurando segurança e certeza em um mundo turbulento. Mas "o que descobrimos neste trabalho contradiz essa explicação tradicional", diz o autor do autor Thomas Costello, um pomar de psicologia da Universidade Americana de Washington DC. "Uma das aplicações potencialmente emocionantes desta pesquisa é que o KI pode ser usado para refutar as teorias da conspiração na vida real".
idéias prejudiciais
Embora muitas teorias da conspiração tenham quase nenhum efeito social, aqueles que ganham popularidade podem "causar danos reais", diz Fitzgerald. Refere-se ao ataque ao Capitólio dos EUA em 6 de janeiro de 2021, que foi parcialmente alimentado por reivindicações sobre uma eleição presidencial manipulada em 2020, bem como a retórica anti-vacina, o que prejudica a aceitação da vacinação contra o Covid-19, como exemplos.
É possível convencer as pessoas a mudar sua opinião, mas isso pode ser tempo consumido e exaustivo - e o número e a variedade de teorias da conspiração dificultam a abordagem do problema em uma escala maior. No entanto, Costello e seus colegas queriam examinar o potencial de grandes modelos de voz (LLMS) - eles podem processar grandes quantidades de informações rapidamente e gerar respostas semelhantes a seres humanos - para combater as teorias da conspiração. "Eles foram treinados na internet, conhecem todas as teorias da conspiração e seus contra -argumentos, por isso parecia ser uma adição muito natural", diz Costello.
Acredite ou não
Os pesquisadores desenvolveram um chatbot feito sob medida usando o GPT-4 Turbo-o mais recente LLM do fabricante do ChatGPT Openai, com sede em São Francisco, Califórnia, que foi treinado de forma convincente contra conspirações. Eles então recrutaram mais de 1.000 participantes cuja demografia concordou com o povo dos EUA contando em relação a características como gênero e etnia. Costello diz que a equipe conseguiu avaliar a capacidade do chatbot de refutar uma variedade de conspirações recrutando pessoas com diferentes experiências de vida e suas próprias perspectivas.
Cada participante foi solicitado a descrever uma teoria da conspiração para explicar por que a considerava verdadeira e a expressar a força de sua convicção como uma porcentagem. Esses detalhes foram compartilhados com o bot de bate -papo, que então conversou com o participante, no qual ele citou informações e evidências que prejudicaram ou refutaram a conspiração e reagiram às perguntas do participante. As respostas do chatbot foram completas e detalhadas e frequentemente atingiam centenas de palavras. Em média, cada conversa levou cerca de 8 minutos.
A abordagem acabou sendo eficaz: a auto -confiança dos participantes na teoria da conspiração escolhida caiu em média em 21 %depois de interagirem com o bot de bate -papo. E 25 % dos participantes mudaram de alta confiança (mais de 50 %) para incerteza. A mudança dificilmente foi perceptível para os grupos de controle, que falavam em um tópico semelhante com o mesmo bot de bate -papo. Um exame de acompanhamento dois meses depois mostrou que a mudança de perspectiva continuou com muitos participantes.
Embora os resultados do estudo sejam promissores, os pesquisadores apontam que os participantes receberam participantes da pesquisa e podem não ser representativos de pessoas que estão profundamente envolvidas em teorias da conspiração.
Intervenção eficaz
Fitzgerald está entusiasmado com o potencial da IA de agir contra as conspirações. "Se conseguirmos encontrar uma maneira de evitar a violência offline, isso é sempre uma coisa boa", diz ela. Ele sugere que os exames seguintes podem examinar várias métricas para avaliar a eficácia do chatbot ou que o estudo poderia ser repetido usando LLMs com medidas de segurança menos avançadas para garantir que eles não intensifiquem o pensamento conspiratório.
Estudos anteriores expressaram preocupações sobre a tendência dos chatbots da IA de "alucinar" informações incorretas. No entanto, o estudo evitou essa possibilidade - a equipe de Costello pediu a um testador factual profissional que avaliasse a precisão das informações fornecidas pelo chatbot, que confirmou que nenhuma das declarações estava incorreta ou politicamente tendenciosa.
Costello diz que a equipe está planejando outras experiências para testar várias estratégias do chatbot, por exemplo, para examinar o que acontece quando as respostas dos chatbots são rudes. Eles esperam aprender mais sobre o que tornou este estudo especial tão bem -sucedido através da identificação "dos experimentos em que a convicção não funciona mais".
- >
- >>
Costello, T. H., Pennycook, G. & Rand, D. G. ciência 385 , EADQ1814 (2024).