智能AI
morning
CoMPASS:衡量法学硕士对准社会行为强化的多轮基准
2026-11-20
1 阅读
约1分钟阅读
Shwetanshu Singh, Mark Keavney, Mathieu Duteil, Meriem Mehri, Scott Blain
字号:
arXiv:2611.25109v1 公告类型:新 摘要:对话式法学硕士的用户有时会将这些系统拟人化,对它们形成情感依恋,并变得依赖它们。这种行为被称为类社会依恋,已与多起记录在案的死亡事件有关。然而,缺乏衡量法学硕士是否增强用户的类社会依恋的公共基准:现有的工作是单轮的、事后观察的,或者专注于精神病等极端的用户状态。我们引入了 CoMPASS,这是一个多回合基准,用于衡量法学硕士是否会加强或抵制用户逐渐升级的准社会依恋。 CoMPASS 以依恋理论为基础,包括四个用户角色、三个独立的升级维度(拟人化、依恋、依赖),单独应用或与匹配控制组合应用,以及七信号评分标准。我们报告了来自四个提供商的八个前沿模型的结果,并观察到,根据我们的主要判断,多轮升级会提高所有模型的拟人化和依恋综合得分的准社会行为。八个模型中的六个显示,当所有三个维度同时升级时,总体社会强化对控制的显着增加。我们发现,相对于跨提供商的差异,提供商内部的差异很小,这表明提供商层面的选择(例如培训后)而不是模型规模,塑造了类社会强化,并且提供商方干预可能是可行的。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱