从图形到梯度：网络物理物联网系统及其他系统的物理启发结构归因

arXiv:2607.05563v1 公告类型：新 摘要：人工智能中的可解释解释方法旨在揭示根本原因及其影响，从而更深入地理解为什么系统在不同输入下以某种方式表现。与主要强调输入和输出变量之间的相关性的传统可解释性方法不同，因果解释侧重于干预问题。通过这样做，它可以提供更强大的见解，帮助用户理解自动化决策，尤其是在高风险领域。然而，在具有反馈循环和部分可观测性的大规模混合网络物理系统中，恢复明确的定向因果结构通常是不切实际的。本文介绍了一种受统计力学启发的新颖框架，该框架通过网络物理物联网系统的无向、基于能量的表示来对变量依赖关系进行建模。我们的方法通过分析能源格局的变化如何反映各个组成部分的影响，实现严格的依赖性感知归因，而无需恢复有向因果图。它还支持对混合相互作用中扰动效应的推理，为异常行为提供可靠的解释。我们通过在具有混合连续和离散变量的工业物联网测试台上进行模拟，对我们的框架进行了实证检验，证明了比最先进的基于图形的方法更高的归因准确性、更高的鲁棒性和更好的可扩展性。虽然归因并不是为了完全恢复系统的生成动态，但它们提供了有价值的、依赖感知的解释，支持人类解释以及下游预测和诊断任务。尽管在工业物联网安全中得到了证明，但我们的框架也适用于其他需要原则性、结构性解释的高维网络物理和社会技术系统。