边际匹配不许可分解抽样：审核分解生成模型中的条件样式泄漏

arXiv:2608.05243v1 公告类型：新 摘要：分解生成模型通常通过将潜在风格变量 z_s 的边际分布与固定的高斯先验相匹配来正则化它，并将其解释为风格表示独立于类信息的证据。我们证明这种解释是不正确的。仅匹配边缘分布不会对类条件分布施加任何限制，从而允许潜在风格保持对标签的高度预测，尽管总体上呈现完美的高斯分布。我们得出了精确的分解，表明这种不匹配是分解采样所需的四个条件之一，并证明消除它是必要的，但不足以获得预期的分解。根据经验，我们的案例研究模型和四个代表性潜在基线实现了接近零的全局 MMD，同时仍然允许线性探针以 74%--100% 的准确度（10% 机会水平）恢复类别标签。我们的模型达到 99.15% 的聚类准确率，而外部评估的类条件生成只有 16% 的成功率。这种泄漏仍然存在六个独立的扰动，涉及模型容量、课程、先验几何和两个数据集的监督。四种缓解策略将探测精度降低至 21%--46%，尽管它们使类内依赖性基本保持不变。事后条件先验将 MNIST 上的外部评估类生成率提高到 0.97，无需再训练，但在 CIFAR-10 上仅达到 0.41，而经验风格银行在 CIFAR-10 上达到 0.88。这些结果表明，仅根据潜在风格的边际分布计算的散度不能证明与类标签的独立性，并且仅报告边际统计数据并不能验证因式分解生成模型中通常声称的属性。