人工智能工具促进持不同意见的人之间的对话

人工智能工具促进持不同意见的人之间的对话

由人工智能 (AI) 驱动的类似聊天机器人的工具可以帮助持不同观点的人找到共识。在线讨论组的实验证明了这一点。

该模型由伦敦的 Google DeepMind 开发，能够综合不同的意见，并在考虑不同观点的情况下生成每个群体的立场摘要。与人类调解员撰写的摘要相比，参与者更喜欢人工智能生成的摘要。这表明此类工具可用于支持复杂的磋商。该研究于 10 月 17 日发表在《科学》杂志上 1 。

该研究的合著者和英国人工智能安全研究所的研究主任克里斯托弗·萨默菲尔德（Christopher Summerfield）表示：“你可以将其视为一个概念证明，即你可以使用人工智能，特别是大型语言模型，来执行目前由公民集会和协商民意调查执行的一些功能。” “人们需要找到共同点，因为集体行动需要同意。”

妥协机

市政厅会议等民主举措要求人们就政治问题分享他们的意见，确保政客们听到不同的观点。然而，扩大这些举措可能很困难，因为这些讨论通常仅限于小团体，以确保听到所有声音。

Summerfield 和他的同事对大型语言模型 (LLM) 的可能性研究感到好奇，因此开展了一项研究来评估人工智能如何帮助持相反意见的人达成妥协。

他们部署了经过预训练的 DeepMind LLM Chinchilla 的微调版本，他们将其称为“哈贝马斯机器”，以哲学家尤尔根·哈贝马斯 (Jürgen Habermas) 的名字命名，哈贝马斯提出了理性讨论如何帮助解决冲突的理论。

为了测试他们的模型，研究人员招募了 439 名英国居民，他们被分成几个小组。每个小组讨论了三个有关英国政治问题的问题，并分享了他们的个人看法。这些意见随后被输入人工智能引擎，该引擎生成综合了所有参与者观点的总体声明。参与者能够对每个陈述进行评分和批评，然后人工智能将其纳入该小组集体观点的最终总结中。

萨默菲尔德说：“该模型经过训练，可以生成一份声明，得到一群自愿发表意见的人的最大支持。” “当模型了解你对这些陈述的偏好时，它就可以生成最有可能让每个人都满意的陈述。”

除了人工智能之外，还选择了一名参与者作为调解员。他还被要求创建一份最能体现所有参与者观点的摘要。参与者会看到人工智能和调解员的总结，并被要求对它们进行评分。

大多数参与者认为人工智能撰写的摘要比调解员撰写的摘要更好。 56% 的参与者更喜欢人工智能性能，而 44% 的参与者更喜欢人工总结。外部评审员还被要求对摘要进行评估，并在公平性、质量和清晰度方面给予人工智能摘要更高的评级。

研究小组随后招募了一组在人口统计上具有英国人口代表性的参与者，参加了一次虚拟市政厅会议。在这种情况下，在与人工智能互动后，群体对有争议问题的共识会增加。这一发现表明，人工智能工具在融入真正的公民集会时，可以使领导人更容易制定考虑不同观点的政策建议。

犹他州普罗沃市杨百翰大学研究人工智能工具如何改善民主社会的 Ethan Busby 表示：“法学硕士可以通过多种方式支持审议，并承担以前为人类促进者保留的角色。” “我认为这是该领域工作的顶峰，它具有解决紧迫的社会和政治问题的巨大潜力。”萨默菲尔德补充说，人工智能甚至可以帮助使冲突解决过程更快、更高效。

失去连接

英国剑桥大学研究协商民主及其与人工智能接口的萨米·麦金尼 (Sammy McKinney) 表示：“实际上，将这些技术应用于协商实验和过程确实令人欣慰。”但他补充说，研究人员应该仔细考虑人工智能对人类审议方面的潜在影响。 “支持公民审议的一个关键原因是它们创造了人们可以相互联系的特定空间，”他说。 “越来越多地消除人际接触和人为便利，我们会失去什么？”

萨默菲尔德认识到​​与此类人工智能技术相关的局限性。 “我们没有训练模型来干预审议，”他说，这意味着模型的声明也可能包含极端主义或其他有问题的信念。他补充说，对人工智能对社会影响的严格研究对于理解其价值至关重要。

“对我来说，谨慎行事似乎很重要，”麦金尼说，“然后采取措施尽可能减轻这些担忧。”

1. 泰斯勒，M.H.等人，科学 386，eadq2852 (2024)。

   
   谷歌学术

下载参考书目