首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

在紧凑世界模型中奠定空间关系:指令泄漏和无目标动力学修复

2026-07-09 1 阅读 约2分钟阅读 Yufeng Wang, Lu Wei, Haibin Ling
分享:
字号:
arXiv:2607.06925v1 公告类型:新摘要:以语言目标为条件的紧凑世界模型承诺使用一组稀疏的显式\emph{参考锚}来实现诸如“将红色块放在蓝色块左侧”等基础关系。我们询问此类参考何时真正建立关系,并识别出一个陷阱:目标条件预测器达到惊人的 0.90 美元关系读出精度,但这只是\emph{指令转录},而不是感知。保留目标会使其崩溃($0.90\!\to\!0.27$,三个种子),并且反事实指令使预测的锚点遵循 \emph{false} 指令 $94.5\%$(真实场景 $2.3\%$;$N{=}256$)。在三种设置和任务内消融中进行测试,我们的中心主张描述了混淆的特征:\textbf{当评分数量可从指令转录时(当指令命名答案时),指令泄漏发生,并且基本上独立于非指令输入的预测程度。}我们的桌面和外部 BabyAI 基准泄漏,而指令名称为 \emph{referents} 的语言表前向动态世界模型则不会,直到指令被增强以命名方向; and degrading the action never increases leakage, the opposite of what predictor-competition predicts.诊断给出了解决方案:将目标排除在动态之外(它属于规划者的成本)并监督 \emph{read} 路径,恢复真正的、独立于指令的基础(0.88 美元,有目标和没有目标相同)。 The detection protocol and remedy apply to any goal-conditioned world model whose instruction names the scored quantity.
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱