智能AI
morning
语言模型的多样化采样模型
2026-11-20
1 阅读
约1分钟阅读
Manuel Prada-Corral, Yahya Emara, Timothy J. O'Donnell, Ryan Cotterell, Tim Vieira
字号:
arXiv:2611.25003v1 公告类型:新 摘要:语言模型通常会产生高质量的个体样本,但集合质量较差,重复样本聚集在相同的语义模式周围。我们将多样化生成形式化为从行列式点过程 (DPP) 中采样完整字符串的大小 $K$ 子集,其中可能性编码项目质量,嵌入几何编码相似输出之间的排斥。对所有字符串进行精确推断是很困难的,因此我们提出了 PoolDPP:从易于处理的提案中提取有限候选池,根据目标质量对候选进行重要性加权,并在诱导池内核上运行 $K$-DPP 采样器;贪婪的 MAP 变体提供了确定性选择。我们证明了具有显式常量的有限样本界限:采样器输出与目标 $K$-DPP 之间的 KL 散度在池大小中衰减为 O(1/N)。根据经验,PoolDPP 扩展了开放式生成的质量多样性边界和模糊文本到 SQL (Ambrosia) 的精确回忆边界,以及数学推理 (GSM8K),它以大约相同的 pass@$K$ 提高了多样性。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱