具有可训练非线性连接的低功耗模拟神经网络，用于连续控制

arXiv:2606.23742v1 公告类型：新 摘要：物理神经网络通过直接使用模拟设备物理进行计算来承诺低功耗机器学习，但大多数架构强制非线性设备响应充当标量权重。受柯尔莫哥洛夫-阿诺德网络的启发，我们在连接上放置可训练的非线性函数，使每个物理连接成为可学习的计算元素。将这些功能实现为现场可编程模拟阵列上的模拟带通滤波器，我们发现其好处是依赖于任务的，并且源于物理基础的平滑性：网络代表平滑、连续有价值的目标，包括机器人运动学、连续控制和光伏最大功率点跟踪，其节点和连接比多层感知器少得多，但在类似分类的决策边界上没有提供参数效率优势。经过训练的网络可通过大约 35,000 个连接以量化的保真度传输到硬件，专用 CMOS 实现的运行功率预计约为 30 微瓦。忆阻实现在模拟中再现了相同的行为，表明优势来自于在连接上放置可训练的非线性，而不是来自特定的设备。