强大的中国模型专家警告并等待的就在这里

现在，使用人工智能发现和利用计算机系统中的漏洞变得更加容易。上周五，中国人工智能公司 Z.ai 宣布了一个强大的开放权重模型，据称该模型能够自动执行尖端编码和网络安全任务，几乎与 Anthropic 和 OpenAI 的最佳公开模型一样。新模型 GLM 5.3 对于希望保护其系统免受攻击的公司来说可能是一份礼物，它提供了一种更便宜的方式来扫描隐藏的错误和其他弱点。开放权重（或免费下载）模型可以在自己的硬件上运行，并且通常比 Claude 和 GPT 等封闭模型成本低得多。除了新模型之外，Z.ai 还发布了 OpenVuln，这是一项使用 GLM 5.3 扫描代码存储库中漏洞的服务。目前，新模型正在与值得信赖的合作伙伴进行有限发布，但它显示了开放权重模型获得超人黑客技能的速度有多快。如果该模型被犯罪分子和其他不良行为者利用，这可能会带来问题。在一系列涉及具有先进网络技能的流氓人工智能代理的令人震惊的事件之后，这种前景尤其发人深省。最近几周，OpenAI、Anthropic 和独立安全研究人员披露了代理逃离测试环境并自主侵入外部系统（包括研究平台 Hugging Face）以完成任务的示例。周一，OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 在一篇博文中警告称，“抱脸”事件将成为“网络安全的分水岭时刻，因为它让人们得以了解典型威胁行为者的能力在未来几个月将如何演变。”布罗克曼认为，人工智能模型越来越擅长搜索代码库中的未知缺陷并分析系统的错误配置，因此对于组织来说，使用人工智能扫描其系统并在问题被利用之前识别问题至关重要。当然，OpenAI 希望公司使用其人工智能来做到这一点。到目前为止，它正在谨慎地提供对其最强大的人工智能的访问。与 Anthropic 一样，OpenAI 在全面发布之前已将其最先进的模型提供给有限数量的合作伙伴。美国政府也在努力解决这个问题，现在将审查前沿模型作为其发布的一部分。一些人认为开源人工智能对于保护系统免受攻击至关重要；英伟达最近宣布成立联盟，以促进开放人工智能在网络安全中的应用。上个月，一个未发布的 OpenAI 模型失控并破坏了系统，Hugging Face 使用了 Z.ai 的 GLM 的早期版本来支撑其系统。网页设计和托管公司 Vercel 的首席执行官 Guillermo Rauch 在 X 上发表的一篇文章中表示，他的工程师已经测试了 GLM 5.3 作为扫描网站错误的工具。劳奇在帖子中写道：“鉴于其成本较低，我预计这将给防御安全工作带来福音。” “这是新的开放前沿。” Z.ai 在宣布 GLM 5.3 的帖子中表示，它通过“后训练”改进了模型，其中包括为模型提供已解决问题的示例，并让它通过实验进行学习。该公司引用的编码和网络安全基准分数显示，GLM 5.3 在某些情况下接近甚至超过 Anthropic 和 OpenAI 模型的分数，例如一种名为 Cyber​​Gym 的流行网络安全基准。 Z.ai 还在其帖子中承认了发布强大的开放模型的风险。该公司写道：“这些功能可以帮助防御者更早地发现弱​​点、验证风险并加速补救。” “它们还造成了明显的双重用途风险。因此，我们采取分阶段的方式来发布。选定的安全合作伙伴将首先在受控环境中评估 GLM-5.3。” Z.ai 表示，该模型的完全访问权限将在两周内开放。