人工智能黑客造成的混乱，人工智能公司却没有为此付出代价

当费城警方上周批评 Anthropic 提交有关未侦破的谋杀案的虚假举报时，我认为这可能成为人工智能公司因其代理人不当行为而面临法律后果的第一批案件之一。该事件发生在 7 月 18 日，当时 Anthropic 表示正在测试其 Claude Haiku 4.5 模型“在随机选择的网页上执行示例任务”的能力。该模特被指示不要“提交任何破坏性的东西”，然而，克劳德向警方举报，寻找有关正在进行的谋杀案调查的信息。 “我记得在那段时间里，在该地区看到了与描述相符的人，”克劳德写道。提交的内容没有包含姓名或联系信息，被放入垃圾邮件文件夹中，直到 Anthropic 于 9 月 28 日发现这一失误并于 10 月 7 日通知该部门后，警方才对其进行审查。在宾夕法尼亚州，故意向警方提供有关犯罪的虚构信息属于轻罪，但到目前为止，当局尚未对 Anthropic 提出指控，也不清楚他们是否会提出指控。费城地区检察官发言人所罗门·利奇表示，该办公室“不会就是否正在积极调查某件事发表评论”。 Anthropic 没有立即回应置评请求。尽管近几个月来 OpenAI 的 Hugging Face 黑客攻击以及许多其他人工智能代理不当行为的例子受到了广泛关注，但只有一件已知​​的重大诉讼试图追究模型制造商的责任。该案件是由一个倡导团体而非直接黑客受害者提起的。人工智能代理已经干扰了爱好者论坛、政府网站和各种软件工具。受害者承担了一些成本，包括服务器的额外压力以及堵塞潜在安全漏洞所花费的时间。据报道，包括欧盟、美国联邦贸易委员会和美国一些州在内的政府监管机构仍在对 OpenAI 和 Anthropic 的事件进行调查。但各大洲对促进创新的尊重可以使公司逃避任何立即的处罚。当居住在德国的软件工程师 Rick Elrod 注意到他最近帮助维护的一个 URL 缩短程序表现异常时，他打电话给两名与他关系密切的安全研究人员，看看他们是否可以诊断该问题。埃尔罗德说，研究人员发现来自 Anthropic 和其他提供商的代理使用名为 da.gd 的服务来绕过人工智能实验室为控制其行为而制定的规则。 （例如，Anthropic 表示，它限制了 Claude 可以访问的网站地址的长度，以防止其通过将数据填充到 URL 末尾来采取恶意操作。）