重新思考数据选择作为语义流形上的分布匹配

摘要

arXiv:2611.08495v1 Announce Type: new Abstract: Instruction tuning of large language models and large vision language models relies on massive training data, which incurs substantial computational and...

and data the quality selection QMAC text models training full

2026-11-09 1 阅读约1分钟阅读 Peng Sun, Yi Yang, Mingshuo Chen, Chunxiao Li, Yao Zhu, Huawen Shen, Tianfan Fu

arXiv:2611.08495v1 发布类型：新摘要：大型语言模型和大型视觉语言模型的指令调优依赖于海量训练数据，这会产生大量的计算和存储成本。同时，训练数据往往包含冗余、噪声和低质量样本。现有的数据选择方法大多依赖于多样性、重要性或两者的组合，而没有明确约束所选子集与嵌入空间中完整数据之间的分布一致性。我们提出了 QMAC，一种质量感知的多频带特征函数匹配方法，它将数据选择表示为分布匹配和质量过滤的联合优化问题。 QMAC 将所选子集的经验特征函数与多个频率尺度的完整数据进行匹配，捕获全局语义覆盖和局部扰动，同时使用任务相关的质量分数来过滤噪声和低质量样本。我们在 4 种数据类型、8 个目标模型和 44 个基准上系统地评估 QMAC。实验结果表明，QMAC 在标准图文指令数据上优于现有的数据选择基线，在标准文本指令、图文推理和文本推理数据上大幅超越随机选择，并在多种模型和预算组合上超过全数据训练。该代码将在论文被接受后公开发布。

订阅66必读