别让Agent瞎想乱搜还闯祸：哪些能力该内化进模型，哪些必须交给Harness，这篇讲透

北航、南方科技大学、复旦大学、北京理工大学、爱丁堡大学等 8 家机构的 19 位研究者联合完成 Theory of Agent 综述，讨论模型内部与外部 harness 应如何分配能力，并据此梳理 LLM Agent 的学习、对齐、演化与评测。 一个本可直接推理的问题，Agent 却连续搜索网页、调用多个工具。任务虽然完成了，时间和费用也多花了不少。另一种情况是，问题需要实时信息，Agent 却一直在模型内部推理，最后给出流畅但没有依据的答案。 前一种情况属于过度行动（overacting）；后一种往往同时涉及过度思考（overthinking）和行动不足（underacting）。要避免这类决策失误，Agent 需要判断哪些问题可以自行解决，哪些必须向外部世界寻求信息或执行能力。 这篇综述梳理了约 600 项近期研究，用内化（internalization）与外化（externalization）这一统一视角，分析 Agent 从设计到学习、对齐、演化和评测的全过程。 通往认知型智能体（Epistemic Agent）的路径。Agent 根据模型内部知识与外部 harness 的能力，校准思考和工具调用的决策。 论文题目： Theory of Agent: The Science of Internalization and Externalization for LLM-based Agents 作者： Zihao Cheng*, Yixia Li*, Shengbin Yue*, Yuheng Lu*, Yuli Qiu, Yanzhi Tian, Haohuinan Zhang, Cheng Qian, Hongru Wang, Guanhua Chen, Zeming Liu†, Yuhang Guo, Zhongyu Wei, Ke Gu, Liang Li, Jeff Z. Pan, Amos Storkey, Yunhong Wang, Haifeng Wang 作者单位： 北京航空航天大学、南方科技大学、复旦大学、北京理工大学、爱丁堡大学、北京工业大学、中国科学院计算技术研究所、百度 论文链接： https://www.preprints.org/manuscript/202609.0308 GitHub： https://github.com/BUAA-IRIP-LLM/Awesome-LLM-Powered-Agent 作者标记：* 共同一作，† 通讯作者。 模型与 Harness，能力放在哪一侧？ LLM Agent 通常由模型和外部 Harness 两个紧密耦合的部分组成： 过去数年的 Agent 进展，大体围绕这两个部分展开：基础模型与推理模型的能力在增强，外部 harness 也在持续扩展。 稳定、反复使用的知识和程序适合内化进模型。这样可以减少重复检索和工具调用，降低延迟，让能力在训练中持续积累，并被后续任务复用。 实时事实、精确计算、可验证执行、可编辑记忆和环境状态则适合外化在 harness 中，以便更新信息、追溯来源和控制执行过程。 设计这样的系统时，需要同时考虑两个问题：知识、技能和控制分别放在模型参数还是外部系统；在具体步骤上，内部推理与外部行动各投入多少。 图 1：模型与 Harness 之间的能力配置。模型侧适合承载稳定、高复用、可摊销的能力；Harness 侧适合承载实时、可编辑、可验证、需要治理的能力。两者之间的边界决定 Agent 应继续推理还是采取外部行动。 这些配置问题也出现在几组常见的技术选择中： 长上下文还是 RAG； 参数化记忆还是外部记忆； 工具集成推理（TIR）还是工具内化推理（TInR）； 单模型能力还是多智能体工作流； 更长的思维链还是更及时的搜索、执行与验证。 综述的四个研究问题 论文围绕内化与外化的边界，依次讨论学习、对齐、演化与评测： 图 2：论文整体结构。Foundations 给出统一概念与形式化基础，随后依次讨论 Learning、Aligning、Evolving 和 Evaluation，最后讨论开放问题。 图 3：AI Agent 研究分类。相关工作按 Learning、Aligning、Evolving 与 Evaluation 四个研究问题组织，并映射到内化与外化的边界。 Foundations：Agent 如何判断下一步该做什么 传统视角通常把 Agent 描述为从状态或交互历史映射到动作的策略，重点考察任务是否完成。 这篇综述关注决策过程：Agent 在每个时刻都持有关于任务答案、下一步动作或环境状态的某种信念，并据此判断： 1. 当前信念是否已经足以作出决策； 2. 如果仍有不确定性，应该通过内部推理继续处理，还是通过外部行动获取新信息； 3. 这一步带来的信息增益，是否值得其成本与风险。 论文将 Agent 的动作空间分为两类： 内部动作 ： 思维链、反思、自洽投票、内部模拟等。它们只调用模型参数和当前上下文，不接触外部世界。 外部动作 ： 检索、搜索、工具调用、代码执行、环境交互、与其他 Agent 通信等。它们从模型外部获取信息，部分动作还会改变环境状态。 推理与行动都属于减少不确定性的 “知识操作”。内部推理利用模型参数和当前上下文，外部行动则从外部世界获取信息。 知识边界会随模型、任务和环境变化 论文定义了两个任务集合： 内部任务集： 当前 Agent 仅依靠内部推理就能可靠完成的任务； 世界任务集： 在允许适当外部交互时，原则上可以在环境中完成的任务。 两者之间的分界就是 Agent 的知识边界（knowledge boundary）。不同模型的边界不同；同一模型的边界也会随任务、上下文、工具可用性、信息时效性和训练进程变化。 图 4：不同模型或 Agent 拥有不同的内部任务集。能力增强会扩大内部可解区域；多个 Agent 的能力也可能互补，形成更大的联合任务集。 工具的可用性与必要性需要分开判断。任务位于内部任务集时，调用工具可能有帮助，但并非必需；当任务超出内部能力时，外部行动才具有认知必要性。 四种常见失误，如何对应边界误判？ 论文从边界估计和行为表现两个维度解释常见失败：Agent 可能高估或低估自身能力，相应的失误则出现在推理侧或行动侧。 工具调用次数和推理长度都不能单独用来判断决策好坏。Agent 需要根据自身能力、任务要求和外部成本，找到合适的 operating point。 认知努力：推理与行动各投入多少？ 论文将任务中的认知努力分解为： 其中， 是内部推理成本，例如推理 token、搜索深度和延迟； 是外部行动成本，例如 API 调用、网络等待、货币费用、权限暴露和不可逆副作用。 切换策略会改变任务信息负担的承担方式，却不会让它消失。更强的模型可以在内部处理更多工作，较弱的模型可能更依赖外部 harness。两者都需要合理分配内部推理与外部行动，避免无效投入。 图 5：内部任务与外部任务对应不同的理想努力分配点。过度思考、思考不足、过度行动和行动不足，都是偏离理想点的边界失准。 论文用认知智能比率（epistemic intelligence ratio）衡