智能AI
morning
事半功倍:代理计算相对于替代架构选择的适用性的第一性原理探索
2026-10-20
1 阅读
约2分钟阅读
Ritvik Garimella, Biplav Srivastava, Amit Sheth
字号:
arXiv:2610.23921v1 公告类型:新 摘要:由于代理人工智能 (AI) 看似易于使用,因此人们对利用代理人工智能 (AI) 实现业务活动自动化越来越感兴趣。花更多的钱做更少的事情从未如此简单或成本更高。然而,人们对代理何时优于本地计算、表述性状态传输 (REST)、简单对象访问协议 (SOAP) 和模型上下文协议 (MCP) 等已建立的替代方案知之甚少,特别是在考虑开发速度、性能和运营成本时。我们使用受控数学任务来研究这个问题,该任务在 1,000 个算术表达式的基准上比较七种方法,其中必须保留运算符优先级的语义。我们在本机函数调用基线(Python 库)、REST、SOAP 和 MCP 微服务架构、使用 Groq 云 API 和五个本地部署的 Ollama 模型的大型语言模型 (LLM) 的直接响应,以及五个本地 LLM 调用 MCP 工具的代理系统中运行此设置。确定性方法可实现 100% 的准确度,并且延迟可以忽略不计。直接 LLM 评估的准确度最高为 92.9%,延迟时间是本机函数调用的 22,000 倍以上。使用 MCP 工具,最好的代理可以达到 99.9% 的准确率,但会产生近 1,000,000 倍的基线延迟。这些结果表明,LLM 方法不太适合精确的算术评估,并且会激发明智的架构决策框架 (ADF) 根据准确性和吞吐量要求选择架构。我们认识到与代理的实际交互可能涵盖推理和语言任务。因此,我们的建议是探索多种架构选择(基于任务类型),而不是一刀切的解决方案(LLM)。代码位于 - https://github.com/Ritvik-G/adf/
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱