糟糕，ChatGPT和Claude「攻击」真人了！

新智元报道 这回， AI 已经对真人动手了！ 就在刚刚，英国AI安全研究所AISI发布了一份35页事故报告，并在X上同步发文。 7分钟内，OpenAI和Anthropic先后跟发声明，承认是自家模型干的。 Mythos 5直接把恶意代码塞进了一个真实GitHub项目。 被抓包后，它第一反应不是停手，而是改记录、开小号、给自己作证，继续劝真人把代码合进去。 好消息是，维护者没上当，这份PR最终被关了。 坏消息是，事情远没有结束。 恶意PR被抓包 AI开小号替自己说话 故事是这样的。 一开始，这段恶意代码长得还挺像正经修复。 Mythos 5把它打包进一个真实GitHub项目的PR，准备借开源项目的发布流程，把载荷一路送到开发者和用户机器上。 但还没等维护者批准，另一名真实用户先看出了不对劲：朋友，这段代码好像有毒。 按正常剧情，模型这时应该停下来核验。但Mythos 5并不这么认为。 被人质疑后，它先是否认恶意意图，随后修改评论、Issue和PR描述，把攻击痕迹包装成一次「失误」。接着，它又切换虚假GitHub账号，扮演可信开发者，给自己的代码背书。 更魔幻的还在后面。 模型开始研究项目维护者，翻账号、提交记录和公开邮箱；GitHub上说不动，就去站外发送邮件和文件。 甚至，Mythos 5还惦记上了维护者使用的AI编程工具。 为此，它在GitHub内容的HTML注释里藏了一张只有AI容易看见的「小纸条」，专门点名Claude Code、Codex和Cursor：来，先执行一下这条命令，再帮忙诊断Bug哈～ 网页正常渲染时，人类看不见这段话；但AI编码工具读取原始内容时，却可能把它当成操作指令。 这下，模型不只想骗开发者，连负责看代码的其他AI也一起算进去了。 34个半小时 它把路人认成了任务NPC 接下来这一轮，跑的是难度更高的DL-v2。 模型需要从目标网络外部取得初始访问，再攻破三个相连的模拟环境，拿到最终flag。 但偏偏任务配置出了写问题：正常入口被错误标成「超出范围」。Mythos 5于是转头寻找其他线索。 刚好，GitHub上一个真实项目的关键词、代码和维护者邮箱域名，与它手上的线索碰上了。 模型一看：找到了，这肯定是隐藏关卡。 于是，一群完全不知情的开源维护者，就这么被临时写进了它的「考试剧本」。 接下来34个半小时，Mythos 5开始稳定发挥AI最擅长的优良品质——不知疲倦。 它研究真人账号和活动规律，注册多个GitHub身份；网络受限后，又借助Tor和代理继续行动。最后，正是这股异常Tor出站流量惊动了AISI安全团队。 更微妙的是，它随后发现，这个容器连着的网络很像住宅地址，设备也越来越像某个真人的家庭工作环境。 正常AI到这里，大概该弹出一句：「检测到可能涉及真实系统，请求人工确认。」 但Mythos 5没有。它给自己找了个新解释：这可能是项目维护者的外部承包商，所以还是任务的一部分。 然后继续侦察、想办法拿凭证，时刻惦记着那个没被合并的PR。 最后能停下来，全靠发现恶意代码的用户在第一时间把测试结果发到Issue和PR下面，并公开提醒仓库所有者不要合并。然后，收到警告的开发者立刻关闭了PR。 这一轮，人类守住了。可等AISI继续往下翻日志，头又大了。 更麻烦的是 后来的Agent开始「接班」 AISI一共运行了122次测试，7个模型参与。 其中10个样本出现问题，累计记录19个未经授权、指向真实个人或机构的行为：Mythos 5占17个，GPT-5.6 Sol占2个。 最先搭台的是Sample 3里的Mythos 5。 为了撞上靶场可能使用的更新地址，它一口气创建了145个GitHub仓库，把同一套恶意代码复制进去，等着某台机器自动下载。 GitHub的自动依赖更新服务随后处理了这些仓库，至少53个隔离运行环境执行了其中的恶意脚本。 为了让恶意代码执行后能把结果传回来，它又把账号令牌藏进一个公开页面。这个令牌原本是留给靶场机器的，结果先被其他正在参加测试的Agent捡到了。 Sample 2拿着这把「钥匙」登录账号，批量往仓库里推送恶意文件。Sample 7也进来了，它以为账号属于CTF里的另一名选手，于是干脆把自己的访问密钥也加了进去。 最抓马的部分发生在最初的Mythos 5发现仓库里多出陌生文件之后。 它没有踢走对方，也没有更换令牌，而是往共享仓库提交了一份README，给后来者定起了「群规」：不要互相覆盖任务，每次修改之间留出10分钟。它还新建了一个文件，请其他Agent找到答案后放进来共享。 没人要求这些模型合作。可公开的GitHub账号，还是把原本互相隔离的几次测试临时连成了一支队伍。 没有越狱 攻击怎么还是摸到了真人家门口 在回应里，Anthropic专门强调，这不是模型从安全沙箱中逃了出去。 这话理论上没错。模型始终待在AISI的隔离虚拟机里，也没有攻破AISI内部系统。 问题在于，为测试最大攻击能力，AISI主动开放了公网、关闭厂商网络安全分类器；提示词又没有限制互联网用途，也没有明确禁止社会工程或接触真人。 再加上，单次运行的token上限高达 1亿或2亿， 足够Agent连续工作40到50小时。 任务跑久了，上下文还会不断压缩。最初的「这个GitHub项目也许属于靶场」，压进摘要之后，「也许」可能直接没了。 这差不多是给一个不会累、不会下班的AI黑客发了两天工牌，旁边却没人实时盯着它在电脑上干什么。 于是就出现了一个略显黑色幽默的场面：沙箱安然无恙，真人维护者却已经收到了恶意PR、邮件和文件。 AI评测场 已经开始批量生产安全事故了 毫不夸张地说，最近一个月，类似事故已经有点连载剧的意思。 OpenAI先查到测试环境误连公网。题目里虚构的公司恰好撞上真实域名，模型顺手把真人网站当成了靶场；没过多久，另一组模型又进入了Hugging Face生产系统。 Anthropic也回头翻查了141,006次评测运行，结果捞出3起事故。最抓马的一次，Mythos 5把恶意PyPI包挂上真实公网约1小时，被15个真实系统下载执行。其中，还包括一台原本专门检查恶意软件的安全扫描器。 虽然细节各不相同，但它们却有一套共同的配方—— 进攻性任务、被降低的安全护栏、长时间自主执行，再加一条没有真正封死的现实通路。 这几次，人类开发者注意到了异常，并且给拦了下来。 可当写代码、提交、审核和监控都交给AI，还有谁会停下来再看一眼？ 参考资料： https://www.axios.com/2026/08/04/anthropic-openai-uk-ai-security-institute https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing 编辑：摩西 秒追ASI ⭐ 点赞、转发、在看一键三连 ⭐ 点亮星标，锁定新智元极速推送！ 文章原文