证人重叠：开放重量模型系列中的定向起源

arXiv:2609.31784v1 公告类型：新 摘要：开放权重模型经常被发布、微调、对齐、合并和重新发布，使得出处审计不仅询问检查点是否相关，还询问哪个检查点先出现。许多现有的模型来源方法都是为基础已知的审核设置而设计的：给定受害者或源模型，它们测试可疑模型是否与其相关。尽管这些审计被设计为从源到可疑的测试，但它们的基础证据通常是对称的，依赖于表示相似性、权重相似性、行为指纹或相关统计。对称成对比较可以检测相关性，但它们本身无法确定检查点 A 和 B 之间的关系。因此，我们引入了局部几何比较：我们不是直接比较两个检查点，而是添加第三个同族检查点作为见证人，并比较每个候选端点周围的几何形状。通过询问哪个候选人的行为更像分支父母来推断方向。受这个想法的启发，以及根据经验观察到的父母锚定和儿童锚定见证重叠分布之间的不对称性，我们提出了见证重叠，这是一种无需提示、无需训练的定向起源白盒测试。在来自 16 个家庭的 176 个 LLM 检查点上，我们的单证人测试使用 Frobenius 余弦来指导 95.3% 的亲子决策。我们进一步评估根识别、同级区分、VLM 和扩散族的泛化以及链式结构排序。该信号对权重噪声和稀疏剪枝具有鲁棒性，提出的 SVD 权重减少变体比 Frobenius 余弦显示出更强的鲁棒性。