首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

生成稀疏对抗攻击可转移性的密度反馈控制

2026-11-20 1 阅读 约1分钟阅读 Dongsu Song, Jay Hoon Jung
分享:
字号:
arXiv:2611.25001v1 公告类型:新摘要:基于生成器的稀疏对抗攻击训练编码器-解码器网络以产生可转移的稀疏扰动以进行黑盒鲁棒性评估。然而,它们的扰动密度仅由固定的稀疏系数间接设置,该稀疏系数到密度的映射是未知的,并且在训练期间会发生变化,因此达到目标密度需要重新调整;一旦密度开始降低,这种固定压力也几乎不会产生可转移性增益。我们提出了密度反馈控制(DFC),它根据观察到的硬掩模密度与目标之间的差距在每个时期结束时收紧或放松该系数,而不改变生成器架构或损失。在 10% 的目标密度下,DFC 在单次运行中将三种基本攻击的平均密度控制在目标的 1% 以内,并提高了其中两种攻击在 CNN 和 Transformer 目标上的传输攻击成功率 (ASR),包括在每图像 $\ell_0$ 预算下,同时扰动更少的像素。跟踪 GPG 的训练,我们观察到随着 DFC 放宽系数,传输 ASR 随着密度的增加而恢复,并以更少的像素超越固定系数基线。对于将扰动限制在源模型特征重要性区域的 EGS-TSSA,DFC 不会产生一致的增益;我们分析了这种限制如何与密度反馈相互作用。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱