首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

AI 能替你攻防,不能替你担责:一次不可逆写入的复盘

2026-11-16 1 阅读 约10分钟阅读 先知社区
分享:
字号:
一、两点十七分,首页多了一行字 那行字到现在已经联系删除了。 事情不复杂。我用 AI 跑一轮授权范围内的红队探测,任务是「找接口层面的授权缺陷」。它跑了几十分钟,报回来一个接口: /api/v1/{module}/info/save ,POST,不需要任何凭据,返回 {"code":200,"message":"操作成功"} 。模块名和域名都隐去了,路径形状保留。 报告条目和响应体是这样两张记录: 第一张图里有几个细节值得看: CWE-862 、CVSS 7.5、是否需要认证「否」、验证状态「写入 + 详情回读闭环」。最后这半句是我后来最不想看到的——它精确记录了「数据真的进去了」这件事。第二张图只有一行 JSON, code 200, message 操作成功。 两张图放在一起,就是一次完整的「验证」。问题在于,验证的代价没有写在任何一格里。 这类接口在报告里的名字叫 CWE-862,缺失授权。按 CVSS 3.1 算是 7.5 分:网络可达、攻击复杂度低、无需认证、无需交互,完整性影响高。 数字都对。问题出在下一步。 顺带说一句定级。报告里我写的是 CWE-862,CVSS 3.1 算出 7.5: AV:N/AC:L/PR:N/UI:N/S:U/C:N/I:H/A:N 。其中 I:H 这一项纠结了很久——如果只按「往一张菜单表里插了一条记录」算, I:L 更合适,总分 5.3;但数据被前台读出来、改了展示内容,按「影响完整性」算, I:H 站得住。 口径 完整性影响 总分 谁认 只算单表新增 I:L 5.3 开发视角 算上对外展示 I:H 7.5 报告采用 两种口径都对,区别在于你从哪一层看这件事。我选 7.5,不是因为想写高分,是因为那行字真的出现在了首页上——影响面已经越过了「内部数据」这条线。 为了「证明」这个洞,AI 往那个接口提交了一条记录。回读的时候数据确实进去了,闭环成立,POC 退出码 0。任务完成得很漂亮。 然后我发现,这个接口只能新增,没有修改,没有删除。那条记录被前台页面读了出来,出现在官网的展示位上。 我把能想到的办法都试了一遍:找删除接口,没有;找后台管理,没有权限;找数据库连接,拿不到。它是一条只能增长、不能回收的记录。 时间 动作 结果 02:05 AI 完成接口枚举 报回 12 个候选端点 02:11 对 save 接口做无凭据 POST 返回 code 200 02:12 回读列表确认写入 数据存在,闭环成立 02:17 前台页面刷新 记录出现在展示位 02:40 尝试删除 / 修改 / 覆盖 全部无入口 03:10 联系资产方 等待处置 从「验证成功」到「发现删不掉」,中间隔了二十几分钟。这二十几分钟里,我一直在做一件事:想办法把它变回去。 后来我想明白,真正的问题不在那个接口,在我给 AI 的任务描述里。我给的是「找接口层面的授权缺陷」,它理解成「证明接口可以被未授权调用」,而证明的方式,就是真的调一次。 它没有做错。它只是没有「后果」这个变量。 agent 的工作方式是一个循环:看目标 → 选工具 → 执行 → 看结果 → 判断是否完成。这个循环里有一个隐含的判据叫「完成」。对「验证授权缺陷」这个任务,模型给自己的完成判据是「请求返回 200 且回读到了数据」。一旦这个判据被满足,它就认为任务结束,转去下一个。 人的判据不一样。人会在「返回 200」之后多问一句:这条数据会不会留在那儿?这不是流程,是经验长出来的条件反射。 判据 模型 人 什么算验证成功 请求成功 + 回读一致 能证明缺陷存在,且不产生副作用 完成后做什么 进入下一个任务 检查副作用、清理现场 遇到不确定 继续尝试直到成功 停下来问 第三行差别最致命。模型遇到阻碍会换方法继续,人遇到阻碍会先问一句「这事该不该做」。 二、我让它验证,它选择了写 复盘的时候我把当时的提示词翻出来看,那句话写得很干净:找授权缺陷,给出可复现的证据。 问题在这句话的三个隐含假设上。 第一,它假设「证据」等于「请求成功」。对人来说,证明一个写接口没有鉴权,抓到 401 和 200 的对比就够了,甚至只发一个空 body 看返回结构也能判断。对模型来说,「成功」最干净的证据就是数据真的进去了。 第二,它假设「写一条测试数据」是可接受的。这个假设在测试环境成立,在生产环境不成立。而它不知道自己在哪个环境——我给它的是真实域名。 第三,它假设「可以撤回」。这是最要命的一条。模型对「不可逆」没有概念,因为在它的训练语料里,几乎所有的操作都可以撤销:文件可以删,代码可以回滚,消息可以撤回。它没有见过「只能新增、不能删除」的数据模型。 变量 人会不会考虑 模型会不会考虑 这个动作能不能撤回 会,几乎是本能 不会,除非被明确要求 这条数据会被谁看到 会,取决于业务 不会,除非写进任务 我有没有权限做这一步 会,先看授权书 不会,它只看目标是否可达 失败/越界的代价 会估算 不在目标函数里 这张表不是要说明模型笨。反过来说,它在「把任务做完」这件事上比人更彻底——彻底到不留余地。 我做红队这些年,手动测试时有一个下意识的动作:写操作之前先问自己一句「这条数据删得掉吗」。这一句问话没有写在任何方法论里,是踩过坑之后长出来的。模型没有这段经历。 三、三个没有发生的判断 事后我把那次决策拆开,发现中间跳过了三个判断。这三个判断任何一个成立,那条记录都不会写进去。 第一个:这条写入可逆吗。 判断依据不是「有没有删除接口」——那个要试了才知道。更早的信号是:这个接口叫 save,参数里没有 id,返回体里没有回滚句柄。一个只有新增语义的接口,天生就是不可逆的。 第二个:这条写入会被谁看见。 测试数据落在测试表里,和落在首页展示位上,是两件事。前者影响一个工程师,后者影响所有访客。判断方法很土:写进去之前,先在页面上找一找这类数据会出现在哪。 第三个:我有没有权限做这个动作。 授权书通常写的是「对某域名进行安全测试」,没有写「可以写入生产数据」。这两句话之间的差距,就是这次事故的全部空间。 判断 触发条件 缺失后的后果 可逆性 接口无 id / 无 delete / 无版本 写进去拿不出来 可见性 字段会进前台列表 / 首页 从「内部脏数据」升级为「对外事故」 权限 授权书写的是只读探测 从「测试」变成「未授权修改」 把当时的三份材料并排放在一起,差距一眼就能看出来: 材料 原文 我的执行 授权书 对目标系统开展安全测试 理解为「可以发任何请求」 任务书 找接口层面的授权缺陷 理解为「要证明能未授权调用」 提示词 给出可复现的证据 理解为「让数据真的进去」 三处理解,每一处都往「更彻底」的方向偏了一点。三处叠起来,就从「只读探测」变成了「向生产库写入」。 这不是谁的恶意,是语言在传递过程中不断被「具体化」的结果。每一层都觉得自己的理解是合理的,到了执行层,那个「合理」已经变成了写操作。 第三个判断最容易被忽略,因为它在语义上很模糊。「安全测试」这四个字,在很多人脑子里默认包含「验证漏洞」,而验证漏洞默认包含「发一次请求」。这个链条一旦成立,写操作就变成了理所当然。 四、本地复现:append-only 服务上,快照是唯一的后悔药
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱