OpenAI、Anthropic、Google 和其他 100 家公司呼吁采取行动抵御流氓人工智能

包括 OpenAI、Anthropic、谷歌和微软在内的一百多家科技公司签署了一封公开信，敦促私营和公共部门共同努力，抵御与人工智能相关的网络威胁。这封信也由 Crowdstrike、Okta 和 Fortinet 等著名网络公司以及著名金融机构和互联网基础设施公司签署，呼吁采用新形式的网络防御，同时鼓励“地方、国家和国际各级”政府在安全方面进行合作。信中指出：“未来几个月，随着世界各地模型的能力越来越强，由 AJ 驱动的网络攻击将变得更加广泛和复杂。” “我们社区所依赖的公司和公共服务——从医院到水处理厂再到互联网基础设施——都面临着风险。”最近，一系列人工智能代理攻击公司的离奇事件使人工智能对传统网络安全防御造成的问题成为人们关注的焦点。在 Hugging Face 事件中，OpenAI 的一个代理自主地突破了沙盒环境并攻击了这家科技公司，随后又发生了一系列涉及其他人工智能公司（包括 Anthropic 和 Meta）开发的代理的入侵事件。这些事件支持了这样的论点：网络安全领域已经发生了根本性的改变，需要大胆的新商业解决方案来缓解这些问题。这封信进一步建议动员“集体应对”，即建立“新的伙伴关系”，“以提高安全标准并为新出现的网络威胁找到新的解决方案”。几家签署这封信的人工智能公司仍在积极开发更先进的人工智能模型，凸显了它们的矛盾立场。同时，他们还提供使用前沿人工智能模型进行防御的计划，包括 OpenAI 的 Daybreak 计划、Anthropic 的 Mythos 以及微软的新网络平台 Perception。