智能AI
morning
SAGE-CP:当边际覆盖范围隐藏自适应 VLM 集成中的路由条件故障时
摘要
arXiv:2610.23864v1 Announce Type: new Abstract: Adaptive VLM ensembles save computation by stopping early on easy images and escalating harder ones. Although a single conformal threshold can make the ...
the
and
route
coverage
SAGE
calibration
this
router
prediction
mean
2026-10-20
1 阅读
约2分钟阅读
Mushir Akhtar, M. Tanveer
字号:
arXiv:2610.23864v1 公告类型:新 摘要:自适应 VLM 集成通过提前停止简单图像并升级较难图像来节省计算量。尽管单个共形阈值可以使最终预测器稍微有效,但它仍然可能沿着各个计算路线严重失败。我们精确地描述了这种失败:如果一条路线的流行度为 pi,则边际 1-alpha 覆盖率允许其条件覆盖率降至 max{0, 1-alpha/pi}。为了解决这种不匹配问题,我们根据开发数据学习路由器,冻结所有路由选择,并分别针对早期退出和升级输入校准返回的分数。我们将此管道称为 SAGE-CP。其校准步骤将蒙德里安分裂共形预测应用于路由器创建的操作组。在可交换性下,生成的预测集在每条路线内实现有限样本覆盖。在 10 个基准、4 个冻结的 VLM 和 5 个对齐的分割中,全局校准和 SAGE-CP 均以 0.90 的目标实现了 0.900 的边际覆盖率,但它们的路线行为存在很大差异。 SAGE-CP 使用相同的路由分数和每个图像 1.177 个源调用,将平均最差路由覆盖率从 0.623 提高到 0.887,并将平均路由覆盖率差距从 0.324 降低到 0.025。更强的保证将平均预测集大小从 1.893 增加到 2.212;尽管如此,这些集合仍然小于完整集合的集合 (2.486),同时需要的源调用减少了 70.6%。路线级可靠性在 6 个固定查询分数中保持不变,而更精细的出口深度组表明需要对稀有路线进行额外的校准数据。在 5 个数据集上,相对于完整推理,SAGE-CP 还将测得的第一批延迟降低了 58.8% 至 63.4%,总 GPU 能耗降低了 55.7% 至 57.5%。因此,路由可以节省计算量,而路由分层校准则可以为路由器创建的操作路径提供覆盖保证。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱