智能AI
morning
ZoAQ:通过查询重用耦合进行自适应零阶查询
摘要
arXiv:2609.22115v1 Announce Type: new Abstract: Zeroth-order optimization (ZOO) estimates updates from function evaluations, making perturbation queries a primary cost. Fixed budgets spend the same nu...
queries
the
ZoAQ
query
and
evaluations
adaptive
ZOO
from
step
2026-09-22
1 阅读
约1分钟阅读
Yangyang Feng, Yao Shu
字号:
arXiv:2609.22115v1 公告类型:新摘要:零阶优化(ZOO)估计函数评估的更新,使扰动查询成为主要成本。固定预算在每一步花费相同数量的查询,而自适应控制器可以通过使用额外的预言机调用来测试估计器的可靠性来抵消其节省的成本。我们引入了 ZoAQ,一种围绕查询重用构建的自适应 ZOO 方法。 ZoAQ 不会在每个步骤后丢弃过去的评估,而是使它们对下一次更新和进一步查询的决策有用。这使得自适应查询分配无需额外的验证查询。我们的分析描述了该协议何时识别支持下降的更新并指导控制器获得足够的查询预算。在综合目标上,ZoAQ 相对于使用 120 万个查询的固定基线减少了 43-48% 的查询。在黑盒攻击中,在 MNIST 和 CIFAR-10 上平均查询次数分别为 320 和 625,达到 100% 成功。在四种 OPT 微调设置中,ZoAQ 相对于固定 K=4 节省了 43-46% 的前向评估,任务内的准确度变化范围为 -0.018 到 +0.010。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱