智能AI
evening
答对了却没看图?EASE给多模态RLVR装上「视线校正器」
摘要
强化学习与可验证奖励(RLVR)已成为提升视觉语言模型(VLM)推理能力的标配手段。但一个隐蔽的问题始终存在: 最终答案的奖励信号,只告诉模型「答对了没有」,却从不告诉它「答案应该从图像的哪个区域得出」 。答对,可能是因为真的看懂了图,也可能只是语言先验的捷径、数据集的偏差,甚至是一次幸运的瞎猜。 来自哈工大、中关村学院等机构的研究团队提出 EASE(Evidence-Anchored Spati...
EASE
Evidence
token
Qwen3
RLVR
Anchored
Spatial
Attention
outcome
only
2026-09-03
1 阅读
约10分钟阅读
机器之心
字号:
强化学习与可验证奖励(RLVR)已成为提升视觉语言模型(VLM)推理能力的标配手段。但一个隐蔽的问题始终存在: 最终答案的奖励信号,只告诉模型「答对了没有」,却从不告诉它「答案应该从图像的哪个区域得出」 。答对,可能是因为真的看懂了图,也可能只是语言先验的捷径、数据集的偏差,甚至是一次幸运的瞎猜。 来自哈工大、中关村学院等机构的研究团队提出 EASE(Evidence-Anchored Spatial Attention),把标注的证据区域转化为视觉 token 上的平滑目标分布,在 RL 训练过程中直接监督「回答 token 看向图像哪里」的空间注意力,且推理阶段无需任何额外标注。在 Qwen2.5-VL-7B、Qwen3-VL-4B、Qwen3-VL-8B 三个基座上,EASE 相比最强 outcome-only 基线 DAPO,平均分分别提升 2.9、3.1、2.5 个百分点。 一句话总结 EASE 的理念:不只教模型「答什么」,更教模型「看哪里」。 论文标题:Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR 作者单位:哈尔滨工业大学,北京中关村学院等 会议:EMNLP 2026 Findings 论文链接:https://arxiv.org/abs/2605.30912 代码链接:https://github.com/Nrich-sunny/Attend-to-Evidence 被忽视的盲区:答对 ≠ 看对 在数学推理等纯文本任务中,最终答案的 0/1 奖励已经足够好 —— 因为解题过程全部写在思维链里,信用分配天然清晰。但在多模态场景下,证据获取发生在「看图」这一步,而这恰恰是不可见的。 论文将其形式化为一个感知信用分配问题(perception credit assignment problem): 一个正确的答案,可能源于相关的视觉证据,也可能源于语言先验、标签相关性捷径或猜测; 一个错误的答案同样暧昧 —— 模型是看错了区域,还是看到了正确证据却推理失误? 对于计数、小目标定位、跨区域比较、空间关系这类细粒度、多证据问题,这种歧义尤为致命:模型完全可以在「根本没看对地方」的情况下输出看似合理的文本 —— 这正是幻觉的温床。 为了验证这不是理论空想,作者先做了一个诊断实验:用一个仅经最终答案奖励 GRPO 训练的 Qwen3-VL-4B,在 HallusionBench-Image 上计算每条回答的「回答→视觉注意力分布」与「标注证据目标分布」之间的 KL 散度。结果清晰地表明: 注意力与证据的错位越大,幻觉率越高(相关系数 ρ=0.34,p<0.001); 产生幻觉的回答,其 KL 分布整体显著右移。 这构成了 EASE 的立论基石:outcome-only 奖励确实能提升准确率,但它系统性地遗留了注意力与证据之间的错位 —— 而这需要一个过程级的信号来修复。 EASE 方法: 把证据框变成注意力的「导航目标」 EASE 的整体思路可以用三步概括:造目标、找位置、挑时机。 第一步: 证据标注流水线 —— 从 QA 对到高质量证据框 训练样本被扩展为 (I, q, a, B),其中 B 是支撑答案的证据框集合,仅作为训练元数据存在,从不进入模型输入。标注分三步走: 1. 抽短语:GPT-4.1-mini 从「图 - 问 - 答」三元组中抽取验证答案所需的最小可见实体集合; 2. 做定位:用 Grounding DINO 类 grounding 模型将短语定位成 bbox; 3. 验质量:引入不同模型家族的 Gemini 2.5 Flash-Lite 做独立验证,剔除空框、错框、模糊框 —— 避免单一模型的抽取偏差自我循环。 最终构建出约 127K 标注数据(覆盖 ZwZ74K、CLEVR、Super-CLEVR、SpaCE10、ViRL39K),并按单证据 / 多证据分成两个池子,训练时 1:1 平衡采样 —— 前者教模型局部 grounding,后者教模型跨区域收集证据。 第二步: 软目标而非硬掩码 —— 高斯混合 + 背景平滑 EASE 不将证据框当成 0/1 硬掩码,而是: 高斯化:每个框变成一个二维高斯,中心在框心,2σ 恰好覆盖半个框宽 / 高 —— 概率质量集中在框内,但对标注噪声、粗糙框、跨 token 的物体边缘天然宽容; 等权混合:多证据样本中每个框分得相同的监督质量,防止大框主导目标,强迫模型覆盖所有证据区域而非只盯最显眼的一个; 背景平滑:混入 10% 的均匀分布质量,避免把背景 token 的注意力逼到零,保留必要的视觉上下文。 第三步: 奖励门控 —— 只在「好学生」身上教方法 监督的对象是语义中间层(第 ⌊2L/3⌋ 层)上、回答 token 对视觉 token 的条件注意力分布,用「模型→目标」方向的 KL 散度将其拉向证据目标。 reward-aware gating 设计:注意力损失只施加在原始验证器奖励达标的轨迹上。错误回答的注意力模式本身就是不可靠的,把证据框强行对齐到错误轨迹上,等于在学习「误导性的对齐」。因此,EASE 只把成功轨迹当作「可靠的过程示范」来教。 消融实验印证了每一个设计:去掉高斯软目标平均分掉 2.5 分、去掉奖励门控掉 3.4 分、去掉背景平滑掉 2 分。 推理零开销 证据标注是特权训练信息(privileged information),训练完成后,模型走原生 VLM 的「图像 + 问题」通路,输出格式、解码流程完全不变。相比把 grounding 坐标写进输出文本的路线(如 Ground-R1、Point-RFT),EASE 把监督放在模型内部注意力上,更轻、也更易嵌入现有 RL 训练栈。 实验:三个基座、11 个基准、全面提升 研究团队在感知(HR-Bench、V*、CV-Bench)、幻觉(POPE、HallusionBench-Image)、视觉数学(MathVista、MathVerse_V、WeMath、MMK12)与逻辑推理(LogicVista)共 11 个基准上做了同协议受控对比:在每个基座内部,EASE 在全部 11 个基准上无一例外地超过 DAPO。增益最大的恰好是视觉中心任务 ——Qwen2.5-VL-7B 上 MathVista +6.5、WeMath +4.9、MMK12 +4.6、V* +4.2,与方法的设计意图高度自洽。 与公开报告的 7B 级多模态推理方法横向对比(ThinkLite-VL、VL-Rethinker、MM-Eureka、PAPO、VPPO、VGPO 等),EASE-7B 以 66.0 的平均分位列第一,并在 MathVista、MathVerse_V、WeMath、LogicVista 四项上取得最优。 诊断指标上的证据:EASE 在证据注意力质量(EAM)、注意力峰定位准确率(Pointing Accuracy)、多证据覆盖率(Coverage)三项过程指标上全面优于基座与 GRPO—— 增益确实来自「注意力真的看向了证据」,而非仅仅答案
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱