检测路线翻转比知道是否修复它更容易：量化专家混合中的因果路线介导的损害

arXiv:2608.11212v1 公告类型：新 摘要：Top-k 专家混合 (MoE) 路由是不连续的，因此部署驱动的数值干扰（由受保护的 BF16 门读取的模拟 4 位 KV 缓存量化）将令牌推过决策边界并翻转专家触发的令牌。本文没有提出新的缓解措施；它提供了因果装置、经验发现和检测限结果。四轮设备对量化损害的路由介导分数 (RMF) 进行定价，令牌级归因通过机制对其进行分解，预先注册的探针在三种架构中携带结果。在 4 位 KV（试点）的 OLMoE-1B-7B 上，大约三分之一的损坏是路由介导的：RMF ~ 0.31（发现 0.31 [0.20, 0.41]；进程复制平均值 0.313 +/- 0.020；预注册重新执行 0.231）。可部署的路由器余量检测到发生了翻转（AUC 0.772），但无法区分有害的翻转和有益的翻转（偶然）：在测试的本地、推理可观察的路由器统计数据中，我们发现没有高于机会的翻转丢失信号的预测因子——一种经验效益检测障碍，限制了仅限于该功能系列的选择性修复。符号翻转税和符号不可分性携带交叉模型；清洁参考补救措施的支出是根据架构调整的；受控的相同检查点标志交换将门的标准化约定重新调整为损坏幅度调节器，而不是路线可恢复性机制。真正的 int4 KV 内核产生与假定量剂量曲线兼容的分数，但动力不足（95% CI [-0.111, 0.394] 包括零）——排除了严重分歧，而不是独立复制。假设、阈值和评估在测量前预先登记，并报告遗漏；预先注册的保留读取复制了样本中的分区和几乎取消的税收，而严格的不可能排除则险些错过。