对代理模型的批判

arXiv:2606.23991v1 公告类型：新 摘要：什么是代理？什么是代理？随着以“编码代理”、“人工智能联合科学家”和其他承诺提高生产力的“代理”工具为名销售的大型语言模型（LLM）系统的兴起，同时，“存在”的担忧，例如人工智能在针对人类的投机性“机器代理”下具有破坏力，逃离了人类的控制，澄清自动化的终点和代理的起点变得至关重要，这既是为了构建有能力的系统，也是为了了解是否需要害怕以及害怕什么。笛卡尔以独立思想为基础的代理，以及科幻小说中对自主存在的描述，我们调查了人工智能代理的当前状况，并从五个维度分析了代理架构：目标、身份、决策、自我调节和学习。具体来说，我们认为真正的代理需要这些结构“emph{内部化”在系统本身内，而不是通过外部支架组装。“emph{代理}系统的能力在于工程工作流程，” \emph{agentive} 系统的能力（包括社交互动）是内生产生的，它定义了为指定任务而设计的系统与能够在开放世界中具有真正自主性的系统之间的边界。基于此分析，我们提出了通用代理模型的目标-身份配置器（GIC）架构，结合了分层目标分解、身份进化、基于单独训练的世界模型的模拟推理、学习的自我调节以及从真实和模拟经验中进行的自我指导学习。此外，我们分享对代理系统的可审计性、可控性和安全性的见解，这些系统拥有更大的自主性和“代理性”，但仍处于人类监督之下。