基于不确定性感知的大型语言模型运筹学模拟推理

arXiv:2608.00019v1 公告类型：新 摘要：为运筹学 (OR) 任务部署大型语言模型 (LLM) 仍然具有挑战性，因为正确性取决于连贯的建模过程，而不仅仅是正确的最终答案。标准自回归生成基于短视策略，有时无法预测部分公式是否可以有效地扩展到全局一致的优化模型。因此，局部合理的步骤可能会传播为灾难性的下游公式或求解器代码错误。为了解决这个问题，我们提出了一种用于 OR 数学建模的不确定性感知、免训练推理框架。在不更新模型参数的情况下，我们的方法使用短前瞻模拟来评估中间候选步骤，以量化下游预测不确定性或概率集中。然后通过重要性重采样动态选择那些更有可能产生连贯数学公式的候选者。跨多个 OR 基准（包括 NL4OPT、MAMO 和 IndustryOR）的实证评估表明，我们的框架始终优于标准基准和低温基准，为可靠的 OR 配方生成建立了高效、免培训的范式。