OriginBlame：AI 训练数据集的记录级和令牌级数据来源

arXiv:2607.13037v1 公告类型：新 摘要：当数据贡献者请求删除时，模型训练者面临一个实际差距：取消学习算法需要忘记集，但没有工具可以找到哪些训练记录属于给定作者。现有的来源系统在文件或数据集级别运行，导致灾难性的过度删除。我们提出了 ob，一个记录和令牌级别的数据来源系统，它通过数据处理管道传播作者身份，并通过确定性查询将撤销请求解析为精确的遗忘集。对 219,555 个维基百科页面的评估表明，记录级出处消除了数据集级过度删除（从 101 倍到 1.3 倍），而集成在 wiki 数据上增加了 1.3-4.0% 的吞吐量开销 (HuggingFace) 和 2.1-19.0% (Datatrove)。在 1.7B 模型上，基于来源的遗忘集比随机基线提高了 42% 的遗忘能力。