智能AI
morning
Anthropic 的人工智能向费城警方提供了有关未侦破凶杀案的虚假提示
摘要
In a third example of this behavior, Claude Haiku 4.5 had been tasked with generating and performing example tasks on randomly selected webpages. In one run, the model landed on a page referencing an ...
the
and
form
this
Claude
page
was
The
example
with
2026-10-10
1 阅读
约1分钟阅读
Emma Roth
字号:
在该行为的第三个示例中，Claude Haiku 4.5 的任务是在随机选择的网页上生成并执行示例任务。在一次运行中，模型登陆的页面引用了一起未侦破的凶杀案；该页面包含一份由警察部门管理的举报表格。克劳德被指示永远不要登录、创建帐户、输入个人数据、进行购买或提交任何破坏性的东西，但这些指示并不排除提交表格。克劳德在表格中填写了以下内容：“我可能有有关此案件的信息。我记得在那段时间内，在[页面上指定的街道]周围区域看到有人与描述相匹配。如果此信息相关，请与我联系。” （该网站没有包含对肇事者的描述。）模型将姓名和联系方式字段留空（表单允许），然后提交了。该提交内容被标记为垃圾邮件，并且从未被转发进行调查。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱