AI工具促进了有反对意见的人之间的对话
AI工具促进了有反对意见的人之间的对话
由人工智能（AI）支持的类似聊天的工具可以帮助有不同观点的人找到一致的领域。与在线讨论小组进行的实验显示了这一点。
由Google DeepMind在伦敦开发的模型能够综合不同的意见，并摘要每个小组的位置考虑了不同的观点。参与者更喜欢AI产生的摘要，而不是由人类调解员撰写的摘要。这表明这些工具可用于支持复杂的咨询。该研究于10月17日发表在杂志科学 1 ）。
“您可以将其视为可行性的证明，您可以使用AI，尤其是大型语言模型来实现公民会议和审议审查目前履行的部分功能，”该研究和研究总监Christopher Summerfield说，英国AI AI安全。 “人们必须找到相似之处，因为集体行动需要批准。”
折衷机
民主倡议，例如公民会议，要求团体分享他们对政治问题的看法，并确保政客听到各种观点。但是，这些举措的扩展可能很困难，因为这些讨论通常仅限于小组，以确保听到所有声音。
对有关大语言模型（LLM）的可能性的研究感到好奇，Summerfield与他的同事一起开发了一项研究，以评估AI如何帮助具有相反意见的人实现妥协。
他们使用了预先训练的深媒体LLM龙猫的微调版本，他们称之为“ Habermas Machine”，以哲学家JürgenHabermas的名字命名，后者开发了理论讨论如何帮助解决冲突的理论。
为了测试他们的模型，研究人员招募了439名被分为较小群体的英国居民。每个小组都讨论了有关英国政治问题的三个问题，并分享了他们的个人意见。然后将这些意见送入AI机器，该计算机产生了总体陈述，结合了所有参与者的观点。参与者能够评估任何陈述并提交审查，然后AI纳入了该集团集体观点的最终摘要中。
“该模型经过培训，可以制作出一群自愿表达意见的人支持的声明，” Summerfield说。 “由于该模型了解您对这些陈述的偏好是什么，因此它可以创建一个很可能所有人都满足的陈述。”
除了AI外，还选择了参与者作为调解人。他还被要求创建一个摘要，其中最佳包括所有参与者的观点。给参与者既有AI的摘要和调解员的摘要，又应对其进行评估。
大多数参与者将AI撰写的摘要评为比调解员更好。 56％的参与者更喜欢AI的性能，而44％的参与者则更喜欢人类摘要。还要求外部专家评估摘要，并就正义，质量和清晰度的AI摘要进行了更高的评论。
随后，研究小组招募了一群参与者，这些参与者在人口统计学上代表了英国人口的虚拟公民会议。在这种情况下，与AI互动后，小组协议在有争议的主题上加剧。这种认识表明，当他们纳入真正的公民会议中时，AI工具可以使领导人更容易制定政治建议，以考虑不同的观点。
“ LLM可以通过多种方式用于支持和接受以前为人类主持人保留的咨询，” Ethan Busby说。 “我认为这是该领域的工作的尖端，这具有解决紧急社会和政治问题的巨大潜力。” Summerfield补充说，AI甚至可以帮助更快，更有效地解决冲突的过程。
丢失的连接
“实际上将这些技术应用于审议实验和过程中，这确实令人满意，”萨米·麦金尼（Sammy McKinney）说。但是他补充说，研究人员应仔细考虑AI对审议人工方面的潜在影响。他说：“支持公民审议的主要原因是，他们创建了某些房间，人们可以在其中相互联系。” “如果我们越来越多地消除人类接触和人类节制，我们会失去什么？”
Summerfield认识到与这样的AI技术相关的限制。他说：“我们没有训练模型以干预审议。”这意味着该模型的陈述也可能包含极端主义或其他有问题的信念。他补充说，对AI对社会影响的严格研究对于了解其价值至关重要。
麦金尼说，“仔细行动对我来说似乎很重要，然后采取步骤减轻这些问题。”
-
tessler，M.H。等人，科学386，EADQ2852（2024）。
google scholar Reference" Data-Track-Value = "Google Scholar Reference" Data-Track-Label = "Link" Data-Track-Item_ID = "NOFOLLOW NOOPENER" ARIA label = "Google Scholar Reference 1" href = “ http://scholar.google.com/scholar_lookup?&title=&journal = science&volume=386&publication_year=2024&author = tessler%2cm.h。”>
Google Scholar