智能AI
morning
循环神经网络中学习引起的动态转变
摘要
arXiv:2609.19288v1 Announce Type: new Abstract: Learning in recurrent neural networks can fundamentally reshape their underlying dynamics, transforming initially chaotic activity into stable task-depe...
the
learning
feedback
transition
from
time
dynamics
chaotic
stable
dependent
2026-09-18
1 阅读
约1分钟阅读
Varun Vaidya
字号:
arXiv:2609.19288v1 公告类型:新 摘要:循环神经网络中的学习可以从根本上重塑其潜在的动态,将最初的混沌活动转变为稳定的任务依赖行为。我们开发了一种非平衡动态平均场理论(DMFT)来描述学习过程中的这种转变。我们证明,缓慢的反馈驱动学习过程会产生不断变化的有效反馈强度,驱动网络从混沌动态过渡到由 DMFT 解决方案的分叉定义的稳定动态。通过推导整个学习过程中的两次相关函数,我们确定了临界反馈强度和相应的学习率相关的临界时间,以区分这些状态。这种转变源于不断增长的学习反馈结构对有效动态景观的逐渐变形。从未训练状态开始,该理论预测了训练期间网络输出的时间演化,并与数值模拟显示了定量一致性。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱