OpenAI 发布了新的网络安全模型。够了吗？

初创公司 Charge Robotics 的首席技术官兼联合创始人 Max Justicz 使用 OpenAI 模型发现了一个严重漏洞，如果被利用，黑客可能会控制运行 Ubuntu（一种广泛使用的基于 Linux 的开源操作系统）的服务器。 Justicz 对网络安全有兴趣，之前在同一代码库中发现了一个漏洞，他告诉 TechCrunch，他使用 7 月份发布的 GPT 5.6 Sol 发现了这个问题，通过人工智能制造商的 Daybreak Blue 程序，该程序使网络安全防御者能够访问强大的前沿模型。 Justicz 说：“我实际上只是将 ChatGPT 瞄准了相同的代码主体，并说‘我发现了这个错误，该错误几年前就被修复了，请找出错误或更严重的错误’，然后它在 2 小时内就回来了。” “它对于人类来说极其复杂且难以找到，但它确实有效！”他向 Debian 项目报告了该问题，该项目负责维护相关软件并发布补丁来修复该漏洞。目前尚无已知的剥削证据。尽管如此，他轻松地发现了这一点，这表明我们只看到了冰山一角，即使是新手黑客也可以在人工智能模型的帮助下利用潜在的漏洞。 Justicz 在社交媒体帖子中讨论他的发现时写道：“我只能想象人们可以用更多的时间和获得较少绝育的模型来做什么。我们应该预计在接下来的几个月里会发现并利用一些极其疯狂的错误。” “这对这里的大多数人来说可能是显而易见的，但目前，采用一些尚未审核的代码或二进制文件，并只是针对一个强大的人工智能模型，存在巨大的阿尔法。” OpenAI 似乎已经注意到了。今天，这家人工智能巨头宣布了一个专注于网络安全的新模型 ChatGPT Cyber​​，将向网络安全计划 Daybreak Red 中的最高层用户提供，该模型允许进攻性网络安全研究人员使用工具来寻找和开发漏洞。昨天，OpenAI 表示，同样的模型已被用于扫描 Linux 内核中的漏洞并准备补丁，发现了 948 个潜在问题。 OpenAI 还在网络浏览器 Firefox 中发现了 81 个“新颖”漏洞。该前沿实验室在一份声明中表示：“我们的目标是大幅扩展 Daybreak，为各种规模的组织、独立研究人员和开源维护者带来先进的安全研究。” OpenAI 坚称，在人工智能模型变得更擅长黑客攻击、更容易访问之前，保护数字基础设施的人们采取行动的时间很短。然而，对于网络防御者来说，前沿实验室似乎已经推出了大量超出其资源的新工作。 Justicz 表示，他个人花费了约 5,000 美元购买订阅和代币来发现多个漏洞。除了 Daybreak 的模型访问之外，OpenAI 还宣布了一项 10 亿美元的计划，以支持该计划中从事电网或供水系统等关键基础设施工作的网络安全专业人员。 《黎明》节目也有其自身的批评。 Justicz 指出，前沿实验室最近似乎“削弱”了 Daybreak Blue，使其在查找漏洞方面的作用降低。一方面，限制潜在不良行为者的访问可能是件好事——Justicz 表示，他刚刚上传了一张驾驶执照的照片来加入该计划。另一方面，网络安全专业人士表示，如果他们无法使用前沿技术，他们就会陷入困境，而不良行为者可以部署带有废除护栏的开放权重模型。尽管如此，OpenAI 表示，只有“数千”网络安全专业人员参与 Daybreak 计划，而潜在黑客的数量要多得多。目前尚不清楚前沿实验室是否在这个问题上投入了足够的资源。 OpenAI 技术人员研究员埃里克·华莱士 (Eric Wallace) 表示，“我们现在正在分配大量前沿计算来发现和修补开源代码库中的漏洞，这完全是无偿的。”但 Linux bug 搜寻花费了 120 万美元，这远远低于该公司为寻找著名流体动力学问题的潜在解决方案而投入的约 600 万美元代币支出。如果修补世界所依赖的数字基础设施的时间很短，那么可能需要更加紧迫。