首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

CogniConsole:将推理时间控制外化为可靠的 LLM 交互的形式抽象

2026-07-13 1 阅读 约1分钟阅读 Vanessa Figueiredo, Wilter Franceschi
分享:
字号:
arXiv:2607.08774v1 公告类型:新 摘要:大型语言模型 (LLM) 系统中的可靠性通常被视为模型功能的函数。我们通过证明可靠性受到 \emph{推理时间控制}(管理任务框架和上下文选择的计算层)的显着影响来挑战这一点。我们引入了 \emph{CogniConsole},这是一种架构实例,它将这种控制外化为一个结构化界面,将编程协调与基于有限提示的推理相结合。通过多步交互环境中的\emph{可控性导向探针}($N=489$),我们表明增加结构脚手架——从非结构化到完全脚手架——\textbf{在固定模型架构下系统地降低输出方差和故障率}。我们的结果表明,许多观察到的故障模式,例如上下文漂移和不一致的约束遵守,都是由于指定控制不足而不是能力不足引起的。这项工作为将推理时间控制视为一流的抽象提供了经验基础,为设计和评估法学硕士系统开辟了超越单纯扩展的新方向。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱