PACE：一个用于合理且可行的反事实解释的神经符号框架

arXiv:2607.01306v1 公告类型：新 摘要：反事实解释通过识别会改变模型决策的最小输入变化来解释机器学习预测。尽管许多现有方法成功地生成了改变预测的替代方案，但由于缺乏整合领域知识和干预约束的明确机制，它们经常产生不切实际或不可行的建议。神经符号人工智能将数据驱动的预测模型与能够代表人类可理解的规则和可行行动的符号推理相结合，提供了一个有前途的方向。本文提出了 PACE，一个模块化的神经符号框架，用于生成可行性感知的反事实解释。该框架将预测和推理分为两个部分：用于分类的神经预测模型和在反事实生成期间强制执行特定领域约束的符号推理层。通过明确地建模可行的干预措施，该框架产生与领域知识一致的解释，同时保持可解释性和可操作性。该方法与模型无关，并且适用于需要实际决策支持的领域。对成人收入数据集进行了案例研究，将多层感知器分类器与答案集编程 (ASP) 规则相结合，编码对教育、职业和工作时间的可行修改，同时保留不可变的属性。结果强调了反事实有效性和合理性之间的权衡，并表明符号约束产生的解释可以更好地满足特定领域的可行性要求，说明神经符号方法在可解释的人工智能中进行透明的、具有可行性意识的反事实解释的潜力。