生成式 AI 时代的对抗风险需要放弃小 Epsilon 球

2026-11-13 1 阅读约1分钟阅读 Andrew C. Cullen, Neil G. Marchant, Paul Montague, Jiani Xie, Benjamin I. P. Rubinstein

arXiv:2611.14594v1 公告类型：新摘要：对抗性机器学习研究目前集中在寻找 epsilon-ball：旨在愚弄模型同时保持人类难以察觉的最小扰动。我们认为，这种对 $\ell_p$ 规范的执着是一种计量陷阱，它向防御者传达了一种扭曲的风险认知，这种认知与现实世界的系统漏洞不一致。这种范式误导防御者以牺牲系统安全为代价来优化狭隘的数学鲁棒性，同时激励攻击者利用非重叠的替代对抗路径。最终，我们认为，$\ell_p$球的主导地位不仅不能减少伤害——它还可能通过传达针对错误威胁的错误安全感来积极促进伤害。

订阅66必读