安全攻防
morning
超越神经网络的数据驱动变分基础学习:自适应基础发现的非神经框架
2026-05-08
1 阅读
Andrew Kiruluta
arXiv:2605.05221v1 公告类型:新 摘要:傅里叶级数、小波和固定字典等经典表示系统提供了分析上易于处理的基展开式,但它们本质上并不适应现代高维数据的经验结构。神经网络通过从数据中学习特征来克服这一限制,但它们是通过分层非线性参数化来实现的,而这往往会牺牲可解释性、对基础结构的显式控制和数学透明度。在这篇手稿中,我们开发了一种非神经替代方案,通过变分优化直接从数据中学习基本函数。所提出的框架称为数据驱动变分基础学习(DVBL),将基础原子视为主要优化变量,并与样本特定系数以及(在适当情况下)潜在线性演化算子联合学习它们。这产生了数据自适应基础扩展,该扩展仍然是明确的、可解释的并且适合严格的分析。我们制定模型,建立最小化器的存在性,证明交替最小化算法的分块下降属性,给出系数恢复和基础可识别性的条件,并展示如何在不调用神经架构的情况下集成流形和动态正则化。我们还讨论了该框架相对于经典字典学习、谱方法、库普曼算子方法和深度表示学习的概念新颖性。