智能AI
morning
NormGym：通过社交互动评估规范能力
摘要
arXiv:2611.08613v1 Announce Type: new Abstract: Normative competence, the ability to infer socially enforced expectations from interaction and adjust behavior accordingly, is essential for agents oper...
and
the
agents
competence
from
behavior
for
normative
that
infer
2026-11-09
1 阅读
约1分钟阅读
Binze Li, Zihuan Zhang, Seokhyun Baek, Gillian K. Hadfield, Tianmin Shu
字号:
arXiv:2611.08613v1 公告类型：新 摘要：规范能力，即从互动中推断社会强制期望并相应调整行为的能力，对于在不熟悉的人类社区中运作的主体至关重要。然而，现有的评估主要测试主体是否能够识别或应用他们可能已经知道的规范，而不是他们是否可以从社交互动中获得以前未知的规范。我们引入了 NormGym，这是一个规范能力的交互式基准，新来者必须在多智能体社区中追求自己的任务时推断出隐藏的、任意的规范。成功需要区分什么是可能的，什么是允许的，从观察到的行为和制裁中推断出规范，并将其应用于新的情况。 NormGym 包含不同的规范和独特的环境，允许对当前代理进行系统评估，包括大语言模型（LLM）代理。我们发现规范能力仍然具有挑战性：评估最强的法学硕士的任务与合规联合成功率为 55.3%。我们的分析表明，模型有时可以在对自己的行为进行制裁后修改自己的行为，但很难利用其他代理的行为和他们收到的制裁来推断潜在的规范。我们进一步发现，微调模型可能不足以提高规范能力。这些结果表明，当前模型缺乏通过社会互动获取规范知识的强大、可转移的能力。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱