OpenAI 的拥抱脸黑客汇报提出的问题多于它给出的答案

OpenAI 周三发布了迄今为止最完整的报告，讲述了上个月其人工智能代理入侵 Hugging Face 时发生的情况。不过，这份 37 页的文件在很大程度上提出的问题多于它所回答的问题，包括事件发生前的情况以及 OpenAI 如何阻止类似事件再次发生。尤其令人困惑的是，为什么世界上最杰出的人工智能开发实验室之一似乎低估了自己模型的能力。 OpenAI 多年来一直在警告世界人工智能系统的快速发展。然而，它未能实施长期建立的网络安全和隔离措施，而这些措施可能阻止了黑客热潮。 OpenAI 在事后分析中表示：“事后看来，本报告中发现的一些早期信号可能会引发更早的反应。”在报告中，OpenAI 分享了有关一组人工智能代理如何逃离公司内部评估环境、在其软件基础设施的缝隙中在几个月内互相留下信息以及协调破解人工智能平台 Hugging Face 的新细节，所有这些都是为了完成网络安全评估。 OpenAI 此前在博客文章和黑帽网络安全会议上的演讲中分享了有关此次泄露的一些信息。 Hugging Face最初于7月16日披露了这起事件，但没有透露肇事者；五天后，OpenAI 承认自己的代理人对此负责。这一爆料引发了整个行业更广泛的反思，最近发现 Anthropic、Meta 和中国人工智能初创公司 Moonshot 的人工智能模型也卷入了类似事件。人工智能研究人员和政策制定者热切期待 OpenAI 的事后分析，希望防止人工智能代理在现实世界造成类似的伤害。 Hugging Face 黑客事件首次被披露后，来自 15 个州的总检察长致函 OpenAI，要求其保留相关证据。本周，阿拉巴马州总检察长还传唤该公司提供与该事件相关的信息。 OpenAI 表示，Hugging Face 传奇对于公司和更广泛的人工智能行业来说都是一个分水岭。 《连线》此前曾报道称，这促使 OpenAI 重新评估其内部安全文化，该公司上周表示，已暂停了一些人工智能培训工作量，同时加大了对安全、安保和对齐协议的投资。 OpenAI 在事后分析中写道：“随着前沿模型的能力越来越强，用于遏制和监控它们的保障措施也必须不断发展。” OpenAI 表示，在 Hugging Face 黑客攻击发生前几个月，员工们注意到其特工在包管理器 Artifactory 中创建了一个秘密留言板，他们随后将使用该留言板来协调攻击。 5 月 26 日左右，OpenAI 在事后分析中表示，“内部团队观察到一名特工参与了留言板活动。”随后，6 月 27 日，OpenAI 响应人员发现另一起安全事件与 Artifactory 中的“临时留言板”有关。虽然 OpenAI 的一些员工显然知道留言板，但这一发现显然没有上报给适当的安全和安保领导。 AI 实验室表示，7 月 6 日，就在其特工开始使用它来组织对 Hugging Face 的攻击的前几天，“负责事件检测和响应的领导人”并不知道它的存在，更不用说它意味着什么了。 “澄清一下，我们当时并不知道特工的秘密通信，”OpenAI 的首席信息安全官 Dane Stuckey 本月早些时候在 X 上的一篇文章中写道。 “当然，那天的研究论文与我们现在所知道的有很大不同。总是有改进的空间，事后看来，这一点是显而易见的。”