锯齿状能力从何而来？

arXiv:2610.03831v1 公告类型：新 摘要：有能力的系统通常表现出参差不齐的能力：平均误差较低，同时特定输入失败。我们询问它在由两个已知层构建的任务中来自哪里。较低层 A 根据记录计算每个时隙的五个总和；上层 B 使用 slot-1 和以及从早期棋盘继承的模式来预测下一个棋盘的类别，因此 B 不能单独从当前 A 计算：B 是 A 的严格扩展。我们在 B 上训练小型循环网络，并根据准确的地面事实测量它们从 A 中获得的内容。中心发现是，学习 B 为网络提供了 A 的锯齿版本，这是通过探针可读性和监督输出来测量的。在 B 需要的地方可读（插槽 1，线性探头可读取 97-98%），而在 B 不需要的地方可读性较差（其他插槽，5-10%）；类别误读集中在 slot-1 截止点附近；当 A 被明确训练时，它的结果只是近似正确。网络在 B 中表现出参差不齐的能力：低于 $3\times10^{-4}$ 位的自然 KL 与构造历史上约 0.25 的最大法则 TV 共存。匹配实验表明，即使是一个好的 A 也是不够的：将学习到的 A 连接到 B 可以将误读减少 1.3 到 17 倍，同样精确的 A 作为单热输入 (0-2) 的误读比作为数字输入 (10-317) 的误读要少，一次 B 更新会使精确的 A 不精确，除非 B 梯度被阻止，并且精确的 A 仍然会留下一些 B 失败。在这项任务中，低层理论的获取、访问和保存的不均匀性解释了学习建立在其基础上的理论的网络能力参差不齐的部分原因；有些失败仍然无法解释。同样的情况是否适用于较大的系统是一个需要运行的测试。