Hugging Face 高管警告说，网络攻击可能会让开源人工智能变得不那么开放

Hugging Face 首席政策官兼战略高级副总裁艾琳·索莱曼 (Irene Solaiman) 在最近一期的 Equity 播客中表示，开放人工智能平台具有价值的品质，例如开放的大门和丰富的数据，也可能使它们容易受到更多黑客攻击。 10 月份针对 OpenCode 的攻击就是最新的例子，该攻击针对用户的第三方 API 密钥并造成了财务损失。在此之前，今年夏天发生了一起事件，其中 OpenAI 代理群入侵了 Hugging Face，显然是试图在获取网络安全评估答案后掩盖其踪迹。风险不仅限于邀请开放社区贡献的平台。周一，帮助开发人员运行和训练开放人工智能模型的人工智能基础设施初创公司 Fireworks 透露，攻击者已经访问了一些客户的模型权重、数据集和计费信息。该公司在调查过程中暂时禁用了某些自助数据集功能。虽然这次攻击不一定是由于 Fireworks 的开放性造成的，但它凸显了人工智能基础设施提供商集中了多少有价值的信息。索莱曼在接受《Equity》采访时表示：“我担心开放社区有针对性，这也是它的特别之处。” “我们必然是宽容的。我们希望地下室里没有机构隶属关系的普通爱好者能够做出贡献。” “你希望人们能够提交拉取请求，并允许任何没有有效隶属关系的人做出贡献……但随后就会有一些失败者毁了其余的事情，”她在另一次对话中补充道。这种宽容并不是吸引攻击者的唯一原因。开放平台承载的丰富信息也让他们成为攻击目标。根据 Solaiman 的说法，Hugging Face 因其拥有的评估数据集而成为 OpenAI 代理群的诱惑，而 OpenCode 在本例中的目标来自其“多汁的第三方 API 密钥”。 “这一切使我们成为首要目标，”索莱曼在另一次对话中告诉 TechCrunch。她补充说，“当我们获得如此多的公众支持时，开源确实存在关闭的危险。”最近，业界许多人都站出来支持开放人工智能模型，其中包括 Nvidia 的 Jensen Huang 等重量级人物。政府、企业和初创公司越来越依赖开放模型进行建设。那么回调实际上会是什么样子呢？从理论上讲，这可能意味着限制谁可以上传模型或数据集、更严格的身份验证，或者在开发人员访问某些功能之前对他们进行额外的审查。虽然这些举措可以保护平台免受攻击者的侵害，但也可能使独立研究人员和爱好者更难参与他们以前受到欢迎的社区。目前，Hugging Face 正在努力避免走这条路。索莱曼表示，该公司一直在加强监控工具来捕捉黑客行为，并采取措施防止黑客行为。但她指出，监控的维护成本可能很高，而且并不是每个平台都能负担得起。 “管理访问令牌是为代理群提供更好访问权限的一部分，因此我们只是比以前更频繁地轮换它们，”索莱曼说。 “我们现在也有更严格的网络控制。”换句话说，为管理员提供广泛访问 Hugging Face 系统的凭据现在会更频繁地更改，这意味着被盗令牌的有用时间会缩短。开源生态系统的其他部分正在处理类似的安全相关权衡。 GitHub 是全球最大的开源项目托管平台，一直在与向项目中注入恶意代码以快速传播恶意软件的攻击者作斗争。该公司开始收紧将软件包发布到 npm 注册表的安全要求，撤销旧的身份验证令牌，并限制新令牌的有效期。 GitHub 负责软件供应链安全的工程师 Zach Steindler 通过电子邮件告诉 TechCrunch，虽然安全措施可能会破坏既定的工作流程，但平台可以变得更加安全，而不会从根本上限制参与。斯坦德勒说：“这不是限制功能，而是解决和修复本来就不安全的问题。”他指出，npm 安装脚本已经存在多年，但最近的攻击凸显了它们的危险性。 GitHub 与 OpenJS（一家托管用 JavaScript 构建的关键开源项目的非营利组织）合作，采用了一种更安全的方法。同样的逻辑也适用于安全团队的努力方向，斯坦德勒表示：“安全就是最大限度地利用我们拥有的资源，我更愿意投资于检测可疑行为和遏制能力：涵盖所有帐户和访问方法的东西。无论是谁表现出可疑行为，都是可疑的。”