Ki-Chatbot带来阴谋理论家质疑他们的信念

尽管许多阴谋论几乎没有任何社会影响，但是那些受欢迎程度的人可以“造成真正的损害”。它是指2021年1月6日对美国国会大厦的袭击，这部分是由于2020年被操纵的总统大选的主张以及反疫苗的言论，这损害了对Covid-19的疫苗接种的障碍。

有可能说服人们改变自己的意见，但这可能是耗时和疲惫的 - 庞大的阴谋理论的数量和多样性使得很难在更大范围内解决该问题。但是，Costello和他的同事们希望研究大型语音模型（LLMS）的潜力 - 这些可以快速处理大量信息并产生类似人类的答案 - 以打击阴谋论。 Costello说：“他们在互联网上接受过培训，了解所有阴谋论及其反论点，因此这似乎是一个非常自然的补充。”

信不信由与否

研究人员使用GPT-4 Turbo开发了量身定制的聊天机器人 - 总部位于加利福尼亚州旧金山的Chatgpt制造商Openai的最新LLM，该聊天机器人受到了令人信服的培训。然后，他们招募了1,000多名参与者，他们的人口统计学与美国人民同意与性别和种族等特征有关的人。 Costello说，团队能够通过招募具有不同生活经历和自己的观点的人来评估聊天机器人反驳各种阴谋的能力。

要求每个参与者描述一个阴谋论，以解释为什么他们认为这是真实的，并表达自己的信念的力量。这些详细信息与聊天机器人共享，然后与参与者进行了对话，他引用了信息和证据，以破坏或驳斥了阴谋，并对参与者的问题做出了反应。聊天机器人的答案是彻底而详细的，经常到达数百个单词。平均而言，每次对话大约需要8分钟。

这种方法事实证明是有效的：参与者在选择的阴谋论中的自信心平均与聊天机器人互动后平均下降了21％。 25％的参与者从高信任（超过50％）转变为不确定性。对于对照组来说，这种变化几乎不明显了，该对照组在类似的主题上使用同一聊天机器人进行了讲话。两个月后的随后考试表明，观点的变化在许多参与者中继续进行。

尽管该研究的结果很有希望，但研究人员指出，参与者获得了调查参与者的报酬，并且可能无法代表那些深入参与阴谋论的人。

有效干预

菲茨杰拉德（Fitzgerald）对人工智能对阴谋行动的潜力充满热情。她说：“如果我们能找到一种防止离线暴力的方法，那总是一件好事。”这表明以下检查可以检查各种指标，以评估聊天机器人的有效性，或者可以使用具有较不先进的安全措施的LLM重复研究，以确保它们不会加强阴谋思维。

早期的研究表达了对AI聊天机器人“幻觉”不正确信息的趋势的担忧。但是，该研究确保避免这种可能性 - Costello的团队要求专业的事实测试人员评估聊天机器人提供的信息的准确性，该信息证实了这些陈述均不正确或在政治上有偏见。

Costello说，团队正在计划进一步的实验来测试聊天机器人的各种策略，以检查聊天机器人的答案时会发生什么。他们希望通过识别“信念不再有效的实验”，了解这项特殊研究使这项特殊研究如此成功的原因。