SchemaRouter：用于高效异构代理 RAG 的现场感知工具路由

arXiv:2608.21375v1 公告类型：新 摘要：异构代理检索增强生成 (RAG) 系统越来越多地协调外部 API、内部数据库、向量存储和图形存储。将所有工具描述暴露给 LLM 代理，或仅通过向量相似性选择工具，会导致两种代价高昂的失败：过度获取（会增加有效负载大小、令牌使用和延迟）和不足获取（会忽略回答查询所需的字段）。我们提出 SchemaRouter，一个轻量级路由层，它将工具、端点、参数、响应字段、域概念、单元、来源和许可策略表示为模式图。给定一个查询，SchemaRouter 会发出一个可执行的工具计划，指定要调用哪些工具以及要检索哪些字段。小型法学硕士提取意图、概念和源约束，而字段选择通过意图组投影和与别名层的概念字段匹配在图上具有确定性。在包含 110 个查询的材料科学基准测试中，SchemaRouter 的答案准确度为 0.71，在重叠的置信区间内匹配 fetch-everything，并超过提示所有的 0.66，尽管它们的区间重叠。它使用 227 个检索上下文令牌，而获取所有内容则使用 2,066 个令牌，并且端到端延迟比提示全部低 2.7 倍。它还获得了 0.93 的最佳工具精确率和 1.0 的参数有效性。 SchemaRouter 在 62% 的答案中提供了出处和许可证信息，而所有基线的这一比例约为 0%。我们还发现，最小化所选字段计数会适得其反：它将答案准确率降低至 0.56，而节省的标记可以忽略不计，而保留召回率的投影则恢复最高准确率。 SchemaRouter 提高了效率、模式大小无关的扩展以及可验证的出处/基于许可证的应答，并且具有竞争性的准确性。