智能AI
morning
CaLR:稳健扩散推理的因果潜在修正
2026-09-21
1 阅读
约1分钟阅读
Wei Cai, Jian Zhao, Yuchen Yuan, Xuelong Li
字号:
arXiv:2609.20981v1 公告类型:新 摘要:自回归(AR)模型存在局部贪婪问题,而扩散语言模型(DLM)通常缺乏推理所需的严格因果结构。为了结合对偶的优点并克服缺点,我们提出了因果潜在修正(CaLR),这是一个将推理重新表述为约束潜在优化的框架。通过采用专家模型的因果拓扑矩阵 (CTM) 和隐式微分,CaLR 执行梯度引导的“思想修正”以强制逻辑一致性,从而在并行生成过程中实现中间步骤的动态自我校正。根据经验,CaLR 在复杂基准上实现了 SOTA DLM 性能,超越了强大的 AR 基线,并在数独等约束任务中展示了卓越的鲁棒性。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱