神经理想和神经代码：神经网络分类和特征解释的代数框架

arXiv:2609.30279v1 公告类型：新 摘要：理解神经网络隐藏层捕获的特征是机器学习中的一个基本挑战，尽管它们在各种分类问题上取得了广泛的成功。在这项工作中，我们提出了一个代数框架来检查对分类问题进行建模的神经网络。首先建立了某些结果，例如神经网络和神经理想之间的对应关系、计算神经理想的算法以及能够逼近神经理想的稳定定理。作为该框架的应用，我们提出了识别和解释每个隐藏层神经元捕获的特征的算法。随着这些理论的发展，实际性能已经在 MNIST 数字数据集上得到了证明，结果凸显了神经理想作为分析神经网络捕获的特征的数学和计算工具的关键作用。此外，我们开发了一个交互式软件，该软件基于所提出的框架来可视化每个神经元捕获的特征。该工具可在 https://github.com/yvs1967/neural-network-representation-explorer 上找到