人工智能模型可以证明隐藏任意功能

计算机科学 > 机器学习 arXiv:2610.13928 (cs) [提交于 2026 年 10 月 9 日] 标题：AI 模型可以证明地隐藏任意功能 作者：Andis Draguns、Sumeet Ramesh Motwani、Raymond Douglas、Christian Schroeder de Witt 查看 Andis 撰写的标题为 AI 模型可以证明地隐藏任意功能的论文 PDF Draguns 和其他 3 位作者 查看 PDF HTML（实验） 摘要：能力评估旨在在部署之前暴露危险的模型行为，但其可靠性取决于可以引出隐藏功能的假设。我们通过构建将加密神经网络嵌入到主机模型权重中的后门攻击，仅在收到秘密触发器时解密并执行它们，证明了这一假设在对抗条件下并不成立。使用数字储物柜，即使在完全访问模型权重的情况下，这些隐藏电路仍然难以在密码假设下导出和解释，从而将先前的工作从隐藏固定字符串扩展到任意计算。我们在 PyTorch 中实现概念验证结构，并通过微调、权重噪声、基于梯度的触发搜索和小型化学反应预测任务（CBRN 相关能力的代理）的潜在对抗训练来评估启发。我们的结果证明了对这些方法的抵制，并与我们的加密保证一起揭示了基于启发的能力审计的局限性。我们发布我们的模型来支持防御能力的改进。评论：22页，6张图，3张表格。在 NeurIPS 2026 上被接受主题：机器学习 (cs.LG)；密码学和安全 (cs.CR) 引用为：arXiv:2610.13928 [cs.LG]（或此版本的 arXiv:2610.13928v1 [cs.LG]） https://doi.org/10.48550/arXiv.2610.13928 arXiv 通过 DataCite 发布的 DOI（待注册） 提交历史记录 来自： Andis Draguns [ 查看电子邮件 ] [v1] 星期五，2026 年 10 月 9 日 17:55:06 UTC (878 KB) 全文链接：访问论文：查看 Andis Draguns 和其他 3 位作者题为“AI 模型可以证明隐藏任意功能”的论文的 PDF 查看 PDF HTML（实验性）TeX 源代码查看许可证 其他功能 音频摘要 当前浏览上下文：cs.LG < 上一页 |下一页 > 新 |最近 | 2026-10 更改为浏览方式：cs cs.CR 参考文献和引文 NASA ADS Google Scholar 语义学者正在加载... BibTeX 格式的引文正在加载... 数据提供者： 书签 书目工具 书目和引文工具 书目浏览器 切换书目浏览器（什么是浏览器？） 已连接论文 切换已连接论文（什么是已连接论文？） Litmaps切换 Litmaps（什么是 Litmap？）scite.ai 切换 scite 智能引文（什么是智能引文？）与本文相关的代码、数据、媒体代码、数据和媒体 alphaXiv 切换 alphaXiv（什么是 alphaXiv？）代码链接 切换 CatalyzeX 论文代码查找器（什么是 CatalyzeX？） DagsHub 切换 DagsHub (什么是 DagsHub？) GotitPub 切换 Gotit.pub (什么是 GotitPub？) Huggingface 切换 Hugging Face (什么是 Huggingface？) ScienceCast 切换 ScienceCast (什么是 ScienceCast？) 演示 演示 Replicate 切换 复制 (什么是 Replicate？) Spaces 切换 Hugging Face 空间 (什么是 Spaces？) Spaces 切换TXYZ.AI（什么是 TXYZ.AI？） 相关论文 推荐器和搜索工具 链接到 Influence Flower Influence Flower（什么是 Influence Flowers？） 核心推荐器切换 CORE 推荐器（什么是 CORE？） IArxiv 推荐器切换 IArxiv 推荐器（什么是 IArxiv？） 作者地点 机构 主题关于 arXivLabs arXivLabs：与社区合作者的实验项目 arXivLabs是一个框架，允许合作者直接在我们的网站上开发和共享新的 arXiv 功能。与 arXivLabs 合作的个人和组织都接受并接受了我们开放、社区、卓越和用户数据隐私的价值观。 arXiv 致力于这些价值观，并且只与遵守这些价值观的合作伙伴合作。您有一个能为 arXiv 社区增加价值的项目想法吗？了解有关 arXivLabs 的更多信息。这篇论文的哪些作者是认可者？ |禁用 MathJax（什么是 MathJax？）