BOHM：复合人工智能系统的零成本分层归因

arXiv:2605.22866v1 公告类型：新 摘要：复合人工智能系统通过专用组件的层次结构路由任务。归因以基于 Shapley 的方法 (SHAP) 为主，该方法将联盟价值函数分解为每个组件的边际贡献，并要求对任意组件子集的系统进行评估。对于第三方 API、不透明端点和将路由集中在少数工具上的代理编排器来说，这一要求失败了，导致大多数联盟无法从已部署的编排器中进行评估。我们引入了 BOHM，它直接从系统已经维护的路由权重中提取分层属性树：叶属性是根到叶路由权重的路径乘积； k 级归因是深度 k 节点上的诱导分布。该方法边际成本为零，无需访问组件内部结构，并同时在每个级别提供多分辨率归因，这是平面方法在任何评估预算下都无法提供的。 BOHM 和 SHAP 回答不同的问题，并在部署的路由器路由接近最佳时收敛。在超过 880 个 LiveCodeBench 问题的 3 级层次结构中的 18 个法学硕士上，BOHM 得出 Kendall tau=0.928；每个种子的联盟评估增加 9,000 倍，SHAP 达到 tau=0.980。在 5 个驱动程序、7 个基准代理研究（35 个单元，完全覆盖）中，驱动程序将路由集中在单个工具上（顶级份额中位数 0.65），并且单元级 tau(BOHM,SHAP) 通过驱动程序的首选工具是否是经验上最好的工具来预测（平均值 +0.22 与 ~+0.01）。在美国人口普查层次结构中（475 个叶子，4 个级别），BOHM 恢复每个级别的真实排名（tau 高达 0.722）。 BOHM 满足效率、单调性、对称性和弱抑制，但不满足 Shapley 的可加性。最好将其理解为补充原语：只要路由状态存在，就可以计算多分辨率分解，其与 Shapley 的分歧本身就是诊断性的。