CAWI：随机神经网络的 Copula 对齐权重初始化

arXiv:2605.12580v1 公告类型：新 摘要：随机神经网络（RdNN）通过冻结随机初始化的输入到隐藏权重来实现高效、无反向传播的训练，从而为输出层提供封闭式解决方案。然而，传统的随机初始化对特征间依赖性视而不见，忽略了数据中的相关性、不对称性和尾部依赖性，从而降低了调节和预测性能。据我们所知，RdNN 文献中仍未解决这一限制。为了弥补这一差距，我们提出了 CAWI（Copula 对齐权重初始化），该框架从与经验依赖性相匹配的数据拟合的 copula 中提取输入到隐藏的权重，确保冻结投影尊重特征间依赖性，而不牺牲封闭式解决方案。 CAWI (i) 使用经验累积分布函数 (CDF) 将每个特征映射到单位区间，(ii) 拟合一个多元联结函数，捕获特征之间基于排名的依赖性，(iii) 从拟合的联结函数中对每个权重列 w_j 进行采样，并应用固定的逆边际变换来设置比例。目标、求解器和“冻结一次”范例保持不变；只有 W 的采样定律变得具有依赖性。对于依赖建模，我们考虑两个 copula 系列：椭圆（高斯，t）和阿基米德（Clayton，Frank，Gumbel）。这使得 CAWI 能够处理各种依赖性，包括尾部依赖性。我们使用标准的浅层和深层 RdNN 架构，在 83 个不同的分类基准（二元和多类）和两个生物医学数据集（BreaKHis 和精神分裂症数据集）上评估 CAWI。与传统的随机初始化相比，CAWI 始终在预测性能方面取得显着改进。代码位于：https://github.com/mtanveer1/CAWI