智能AI
morning
保守的判决,漂移的承诺:识别有害的过度思考
2026-11-18
1 阅读
约1分钟阅读
Jianghong Zhou, Hao Rong, Chen Lin
字号:
arXiv:2611.21946v1 公告类型:新 摘要:已经得出正确答案的推理模型可能会因为继续思考而失去正确答案。决定是否停止意味着比较链上同一点的两个概率:如果现在停止,模型给出的答案是正确的(其承诺),并且它将完成的答案是正确的(其结论)。我们表明,仅靠最终正确性探测器估计的判决无法进行这种比较。作为对固定结果的预测,它没有可预测的漂移,无论持续是有利还是有害。承诺与结论的差距等于答案质量的预期剩余变化和通过停止获得的准确性。第二个恒等式将任何准确性与预算曲线分成链内的答案变化和仍在运行的链的变化。我们在 MATH-500 上对两者进行测量。在 DeepSeek-R1-Distill-Qwen-1.5B 拥有正确答案的所有 379 个点中,选择时不考虑其链如何结束,持续平均损失 3.6 个点(95% CI [2.2, 5.2]),并且损失集中在几个问题上。在来自三个系列的六个推理模型中,在 MATH-500 和 OlympiadBench 上,预算高达 16,384 个代币,准确性曲线下降来自于链仍然存在,而链仍然推理保持或改进其答案。预言停止规则在 1.5B 和 7B 时最多获得 +1.8 和 +2.5 点。该框架说明了在建立停止规则之前要衡量的内容。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱