智能AI
morning
SW-KAN:具有 Stieltjes-Wigert q 正交多项式的 Kolmogorov-Arnold 网络
摘要
arXiv:2610.00050v1 Announce Type: new Abstract: Kolmogorov-Arnold Networks (KANs) represent a paradigmatic shift in deep learning by replacing fixed node activations with learnable univariate function...
and
the
that
polynomial
KAN
domain
Stieltjes
Wigert
function
Kolmogorov
2026-10-02
1 阅读
约2分钟阅读
Amirhosein Azarpour, Seyyed Moein Kazemi
字号:
arXiv:2610.00050v1 公告类型:新 摘要:柯尔莫哥洛夫-阿诺德网络 (KAN) 代表了深度学习的范式转变,它用边缘上的可学习单变量函数取代固定节点激活,从而提供增强的可解释性和参数效率。虽然最近基于多项式的 KAN 变体已经解决了原始 B 样条实现的计算开销,但它们引入了一个基本但尚未充分探索的挑战:无界实值输入与正交多项式基的有界或半无限支持之间的域不匹配。为了解决这个限制,我们提出了 Stieltjes-Wigert Kolmogorov-Arnold Network (SW-KAN),这是一种采用在半无限域(0,无穷大)上定义的 Stieltjes-Wigert q 正交多项式的新颖架构。我们引入了一种平滑的 tanh 指数映射,它可以稳定地弥合域间隙,同时保留条件良好的梯度,并利用数值稳定的三项递归来评估 O(N) 运算中的多项式展开,而无需特殊函数调用。通过涵盖图像分类和连续函数逼近的综合实验,我们证明了 SW-KAN 在不同的任务中实现了卓越的准确性与效率的权衡。 Stieltjes-Wigert 多项式的对数正态权重结构和可学习的 q 参数提供了独特的归纳偏差,可在资源受限的条件下(包括降低的特征维度和有限的训练数据)实现稳健的性能。所提出的架构不仅在标准基准上优于已建立的多项式 KAN 基线,而且还表现出强大的表示能力,可以用很少的参数来逼近复杂的多元函数,使其成为资源受限环境中高效函数逼近和分类的引人注目的替代方案。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱