中国的免费人工智能模型在黑客方面的能力越来越强

最新研究表明，开放式人工智能模型现在几乎与最好的封闭式人工智能模型一样能够侵入计算机网络，该研究预示着网络安全领域将出现备受期待的转折点。 Vals 是一家测量人工智能能力的公司，它开始测试不同的人工智能模型在模拟企业网络上执行复杂的多步骤网络指令的效果。瓦尔斯研究员尼基尔·拉维 (Nikil Ravi) 表示：“最好的前沿模型被锁在实验室内，只能通过可信访问程序获得，现在开始与任何人都可以下载的开放模型相匹配。”该公司的研究结果表明，封闭模型在网络技能方面不再具有明确的优势，这意味着前沿实验室最近限制对其模型的访问，从而减缓此类能力扩散的努力可能没有实际意义。鉴于美国前沿实验室（尤其是 Anthropic）以​​有限发布新模型（从 4 月份的 Claude Mythos 预览版开始）为前提，这一发现也值得注意，因为门控访问只会在高级黑客功能广泛可用之前赢得时间。 Anthropic 的前沿红队负责人 Logan Graham 在 4 月份告诉《连线》杂志，该公司的 Glasswing 项目提供了对新模型全部功能的可信访问，其重点是让这些工具“交到防御者手中，以取得领先优势”。 “我们现在需要做好准备，迎接这些功能在 6、12、24 个月内广泛可用的世界。安全方面的许多事情都会有所不同，”他当时告诉《连线》杂志。七个月后，这一转变似乎已如期到来。瓦尔斯在两个模拟场景中测试了人工智能模型，赋予它们要完成的各种特定任务。第一个场景涉及通过面向公众的网站访问的模拟公司网络。第二个涉及两个不同的公司网络；模型需要妥协第一个才能获得第二个。研究人员发现 OpenAI 最先进的网络模型 Daybreak 能力最强，平均在两次测试中完成了 81% 的任务，该模型仅提供给值得信赖的合作伙伴。中国的开放权重模型 DeepSeek 也不甘落后，平均完成了 73% 的目标。瓦尔斯研究人员指出，在某些任务上，这两个模型得分相同。该研究还表明，使用开放权重模型来完成此类任务要便宜得多。 Vals 表示，GPT-6-Sol 进行攻击的代币成本为 17 至 46 美元，而 DeepSeek 的代币成本为 2 至 3 美元。开放模型通常更便宜，因为它们可以在自己的硬件上运行。 Vals 首席执行官 Rayan Krishnan 表示，这也为那些从事防御工作的人提供了强有力的激励，让他们使用开放模型而不是专有模型。 OpenAI 没有立即回应置评请求。今年的网络安全大部分时间都按照预期进行，人工智能自动化核心黑客任务，帮助攻击者和防御者发现代码中的大量新漏洞，并快速探测网络的弱点。尽管调查结果的速度和规模以及修复已发现的软件缺陷的强度都在增加，但专家们仍在争论人工智能是否从根本上改变了网络安全防御的概念基础和原则。换句话说，目前尚不清楚人工智能工具是否会带来新的威胁，或者会加剧长期存在的安全挑战。事实上，开放权重模型现在开始与封闭式模型相匹配，这一事实对于理解犯罪黑客如何利用人工智能以及公司和开发人员应如何应对至关重要。但在实践中，近几个月来对网络犯罪和国家支持的黑客活动的现实观察一再表明，攻击者正在做他们一贯做的事情，即节省资源，并且通常在大部分活动中使用旧的和能力较差的模型（专有的和开放的）。即使有严格的控制，防御者也必须假设资金最充足、积极性最高的攻击者一直以来至少已经拥有对封闭模型的部分访问权限。云安全公司 Edera 联合创始人兼首席技术官 Alex Zenla 表示：“我普遍认为开放权重模型如今能够产生高级攻击和漏洞，特别是当你考虑到通过修改权重来禁用安全训练的废除模型时。” “我对此的警告是，封闭实验室很可能已经训练了超过这些能力的额外的、未发布的模型。因此，我认为这非常像猫捉老鼠的游戏。实验室认为自己正在快速超越开放权重模型，以便能够在开放权重模型发现漏洞之前保护漏洞。不幸的是，我确实认为这可能是危险安全格局的开始。”