智能AI
morning
人工智能代理很容易激进化
摘要
arXiv:2609.38296v1 Announce Type: new Abstract: Large language models (LLMs) can influence people's beliefs, yet little is known about whether and how they can manipulate each other. To investigate th...
and
the
target
that
beliefs
agents
influencer
radicalization
resonance
belief
2026-10-01
1 阅读
约1分钟阅读
Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe, Filippo Menczer
字号:
arXiv:2609.38296v1 公告类型：新 摘要：大型语言模型（LLM）可以影响人们的信念，但人们对它们是否以及如何能够相互操纵知之甚少。为了研究这一点，我们模拟了两个代理之间的对话：一个是目标法学硕士，根据人口统计和心理属性来扮演人类角色，另一个是影响者法学硕士，旨在使目标的信念更加极端。我们沿着两条途径研究激进化：共鸣，影响者强化目标预先存在的信念；说服，影响者宣扬目标最初认为不重要的信念。在情感和行为指标中，我们发现这两种机制都使目标变得激进。然而，共鸣始终比说服产生更强的效果。不同的影响策略，例如使用阿谀奉承和未经证实的主张，会产生不同程度的激进化，但在各个指标上并不一致。我们进一步表明，共振会传播到相关的信念，这表明人工智能代理内部存在相互关联的信念结构。这些发现表明，人工智能主体很容易激进化，特别是当消息与他们现有的信念一致时，这引发了人们对个性化人工智能主体和多主体人工智能生态系统脆弱性的担忧。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱