语义 ID 推荐器的离策略评估：模型自己的代码层次结构有帮助吗？

arXiv:2608.28905v1 公告类型：新摘要：生成推荐器越来越多地发出语义 ID（SID）：每个项目都是来自残差量化器的分层离散代码的短序列，并进行自回归解码。在进行稀缺的 A/B 测试之前，团队可能会离线决定哪些解码器或重新排序变体值得测试 - 这是一项离策略评估 (OPE) 的工作。我们问一个简单的问题：模型自己的 SID 树可以作为该 OPE 的操作抽象吗？我们的答案分为三个部分。 (i) 在近 argmax 日志记录真实推荐器使用的情况下，每个项目的 OPE 是无望的 - 因为项目级有效样本大小在生产日志上通常很小 - 但将项目边缘化到代码前缀集群可以恢复可估计的支持并减少错误。 (ii) 这种增益归功于粗化，而不是具体归功于层次结构；但是 SID 树使得粗化在生成系统中变得可行 - 每个簇的质量由解码器准确且廉价地返回，而平面聚类需要枚举仅代码解码器不会直接公开的项目/叶质量。 (iii) 分辨率深度是操作旋钮——在稀缺支持下更粗——并且条件偏差界限将粗化偏差与量化器的最坏情况重建残差和目标记录散度联系起来。