利用作为一种语言：具有最大表达能力的极简代理框架

arXiv:2609.26891v1 公告类型：新 摘要：现代语言模型代理是围绕 \textit{agent 循环}构建的，其中 LLM 放置在公开一组工具的环境中，LLM 通过在工具调用之间交替并观察其输出来完全控制工作流程。然而，某些工作流程目前需要代理循环本身之外的额外工程，例如内存系统和自我改进系统。我们构建了一个 LLM 代理框架 JAZ，以探索一个比代理循环本身稍大一点的最小工具可以在多大程度上完成这些专门系统的任务。 JAZ 公开了一个基于 LLM 的原语调用，并提供了一组内置挂钩，允许程序员应用约束和监控。概括现有的代码模式代理循环，\texttt{invoke}是最简单的循环，它满足两个定义属性：（1）LLM可以编写任意可执行代码，其中可以包含递归\texttt{invoke}； (2) LLM 可见的所有内容 --- \texttt{invoke} 的所有输入及其与代码环境的交互历史记录 --- 都是代码环境中的变量。我们从第一原则出发进行设计，将 \texttt{invoke} 视为表示函数的语言原语，其实现由 LLM 在每次调用时在运行时提供。为了验证我们的核心 \texttt{invoke} 原语的设计，我们在传统上通过专门的外部工具实现的工作流程上评估 \texttt{invoke} --- 仅需要提示，没有手动设计的工具、工具或外部系统（例如内存或文件系统）。在需要超出上下文窗口的召回的长期工作流程中，JAZ 调用的性能比 Letta (MemGPT) 高出 8%，而在 StuLife 的召回密集部分，JAZ 调用的成本是 Letta (MemGPT) 的一半。 On continual self-improvement, JAZ invoke outperforms ACE by 4\% at a lower cost on AppWorld.