智能AI
morning
特工无法交出他们尚未理解的内容
2026-11-17
1 阅读
约1分钟阅读
Yibo Liu
字号:
arXiv:2611.18642v1 公告类型:新摘要:在单个上下文窗口之外或在团队中工作的代理,将其工作作为简短的书面摘要交给继任者。评估的重点是智能体是否能够解决任务,而对于智能体学到的知识有多少能够被记录下来,人们知之甚少。我们在 56 个具有隐藏规则的交互世界中进行了研究,其中一个代理没有被告知任何内容会失败,而一个代理会获得 300 个字符的规则声明,从而成功。我们将一个扮演 8 个生命并保留其整个历史的代理与一系列 8 个代理(每个代理扮演一个生命并继承 300 个字符的注释)进行比较。我们测试的所有六个模型在链条中学到的东西都较少:经过八代之后,它就达到了单个智能体在大约四世之后的水平。链的受控变体将这种切换损失分解为三个部分:由于更改代理而没有损失,由于压缩到 300 个字符而损失较小,以及由于重复压缩而损失较大。当每个笔记都是根据前世的完整记录而不是前一个笔记写成时,同样的 300 个字符可以弥补 70% 到 82% 的损失。不同模型大小的损失都很严重,并且无法通过指示作者记录证据、修改继承的注释或保留结构化分类账来减轻损失。简单来说,智能体无法交出它尚未理解的东西:一张纸条保存着其作者已经制定出的内容,一条需要几条生命才能看到的规则会随着未传递的生命而消失。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱