智能AI
morning
信息格学习作为概率图模型结构学习
2026-06-19
1 阅读
Haizi Yu, Lav R. Varshney
arXiv:2606.19366v1 公告类型:新 摘要:信息格学习 (ILL) 通过交替地将信号投影到对抽象层次结构进行编码的分区格上并将选定的规则提升回信号域来学习信号的可解释规则。当信号是概率质量函数时,我们展示了 ILL 学习到的概率规则,承认自然的概率图形模型 (PGM) 解释,并详细开发了这种解释。 ILL 中的分区会产生确定性商变量,而规则就是该商变量的边际法则。因此,规则集是可解释抽象的边际约束的集合。一般提升是满足这些约束的所有联合分布的可行族,而特殊提升选择最大无知重建,在 ILL 中通过与最大熵密切相关的 L2 均匀性原理实现。在香农熵提升下,相同的约束产生一个对数线性因子图,其因子由学习的抽象索引。然而,信息格本身并不是贝叶斯网络:它的边缘编码抽象的细化和粗化,而不是条件依赖。因此,ILL 最好被视为商变量上可解释的基于约束的因子图的结构学习。这一观点阐明了 ILL 与图模型和最大熵模型的关系,同时提出了推理、可识别性和混合符号概率学习的新方向。