联合可解释人工智能：角色、架构、评估和开放挑战

arXiv:2607.13045v1 公告类型：新 摘要：联邦学习（FL）已成为跨分布式和异构数据源的隐私保护协作模型训练的关键范例。通过将原始数据保留在本地，FL 解决了数据机密性问题，但它并没有解决现代机器学习模型的不透明性。与此同时，可解释人工智能（XAI）因提高透明度、信任和问责制而受到关注，特别是在高风险领域。它们的交集催生了联合可解释人工智能（FedXAI）范式，旨在共同满足隐私和可解释性要求。这项调查对 FedXAI 进行了系统回顾，强调了可解释性从事后工具到 FL 生命周期不可或缺的组成部分的转变。我们展示了可解释性如何支持聚合、个性化、稳健性、协调和系统级决策。为了组织文献，我们引入了一种分类法，根据可解释性、模型和解释器类型、解释范围、集成级别、FL 设置和数据异质性的作用对 FedXAI 方法进行分类。我们回顾了从模型不可知的解释到可解释的联合模型和可解释性聚合机制的方法。我们还研究了评估实践，并讨论了衡量解释质量、稳定性、隐私泄露和计算开销的标准化基准和指标的缺乏。最后，我们确定了关键挑战，包括非独立同分布数据下的可解释性、以解释为中心的安全威胁、高效通信的 XAI、持续的 FedXAI 以及领域知识和监管约束的整合。通过整合现有工作并确定关键差距，这项调查可以作为设计值得信赖、透明和保护隐私的联合人工智能系统的参考框架。