首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

示例编程中的固定集鲁棒性:示例损坏和语义分区恢复

2026-07-03 1 阅读 约2分钟阅读 Yuan Si, Jialu Zhang
分享:
字号:
arXiv:2607.01280v1 公告类型:新 摘要:示例编程系统从一小组输入输出示例中推断程序。稳健的 PBE 工作通常将错误的示例建模为随机噪声过程的样本,然后最小化预期或经验损失。本文研究了一种不同的失败模式:对手看到合成器并选择对返回程序造成最大损害的示例。我们形式化了有限 PBE 版本空间的固定集最坏情况损坏,实现了字符串转换 DSL 的精确内界池和启发式损坏搜索,并引入了版本空间分区聚合(VPA),这是一种综合不相交示例组和语义签名投票的防御方法。核心主张是有意限制的,并且部分是负面的:低利润的 PBE 任务具有随机打字错误和嘈杂的 PBE 评估会错过的对抗性鲁棒性维度,而语义分区聚合只有在干净的语义保持分区投票利润时才有帮助,而这在现实任务中通常会失败。来自策划/生成的 DSL 任务、接受的公共 SyGuS PBE_SLIA 切片、SYNTRA Playgol v2 和嘈杂的 PBE 目标基线的证据支持该边界。一项精心策划的编辑翻转了所有 8 个峰值任务,而 200 次试验拼写错误、DSL 池和距离匹配的随机对照的成功率分别为 10.3%、11.0% 和 16.7%;生成的 margin-1 行在预算 1 下翻转,但 VPA 恢复它们;在公共 SyGuS 上,投票差值接近 1,因此自适应攻击者将 VPA 准确度降至零;公认的公共 SyGuS 切片跨越了池内预算边界; Playgol 在 141 个接受的行上显示了针对拼写错误和同池随机对照的正配对引导差距。超过 20 个受控 margin-1 任务的小型精确输出提示工具在本地和 API 模型中显示了相同的定性清洁到攻击模式,同时它被视为范围检查,而不是广泛的 LLM 基准。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱