从头开始自动微分：PyTorch 如何计算物理信息神经网络中的梯度

arXiv:2607.13042v1 公告类型：新 摘要：本文用明确的数值追踪了 PyTorch 的自动微分 (AD) 引擎如何计算物理信息神经网络 (PINN) 训练的梯度——该设置需要两个级别的微分：通过网络计算物理导数 $\hat{y}'(t)=d\hat{y}/dt$，并计算参数梯度$\nabla_\theta L$ 的损失本身取决于 $\hat{y}'(t)$。使用 1-3-3-1 多层感知器和初始值问题 $y'(t)+y(t)=0$、$y(0)=1$，我们跟踪每个节点的完整管道：在正向传递过程中构建的计算图、在单次传递中计算所有 22 个参数梯度的反向模式反向遍历，以及图上图机制，\texttt{create\_graph=True} 通过物理信息实现正确微分。残留。每个伴随值都根据 Tahimi (2026) 的手推导进行验证，将 $P/Q$ 灵敏度框架连接到 PyTorch 的 autograd 引擎使用的向量雅可比乘积。