智能AI morning

零膨胀高斯分布在分布估计算法中实现参数空间稀疏性

2026-06-19 1 阅读 Andreas Faust, Sven Nitzsche, Juergen Becker
arXiv:2606.19369v1 公告类型:新 摘要:分布估计算法 (EDA) 是一类强大的黑盒优化进化方法,尤其是在对目标结构知之甚少的情况下。经典进化算法依赖于手工设计的变异和交叉算子,很难针对未知的问题结构进行设计,并且存在偏差来源,而 EDA 完全回避算子设计:它们将概率分布拟合到最佳个体,并从中采样下一代。 EDA 在连续参数空间上得到了很好的建立,但它们以前没有被推广到稀疏参数空间,在稀疏参数空间中,好的解决方案的大多数系数恰好为零。因此,现有的稀疏黑盒优化器准确地重新引入了 EDA 旨在避免的内容:手工制作的稀疏运算符、在支持集和活动值之间交替的双层方案、归零阈值以及其他内置假设。我们通过提出多元零膨胀高斯 (ZIG) 分布作为 EDA 采样法则来缩小这一差距。具有独立指标和值维度的潜在高斯模型表示稀疏模式、活动参数之间的相关性以及两者之间的相互作用,因此稀疏模式和活动值被联合优化,无层次结构。我们表明,该模型的潜在参数可以从观察到的样本中识别出来,这与相关构造起源的缺失数据设置不同,并为它们引入了实用的基于摊销反演的估计器。估计器准确地恢复了潜在的相关结构,并且在 Lunar Lander 基准测试中,与密集高斯 EDA、手工稀疏进化算法和临时稀疏 EDA 相比,所得的 ZIG-EDA 收敛速度更快,并达到更高的最终回报,同时找到仅具有一小部分活跃参数的控制器。