智能AI
morning
语言模型可以重写自己的权重
2026-11-18
1 阅读
约2分钟阅读
Jiajun Fan, Neil He, Changyi Yang, Andy Mao, Xi Zhu, Chaoran Cheng, Kaiqu Liang, Shuaike Shen, Zetian Li, Ruihan Guo, Ge Liu
字号:
arXiv:2611.21885v1 公告类型:新摘要:语言模型训练一次,冻结并部署:再次改进模型需要另一次训练,一旦任务结束,推理时的提示、支架或额外计算就会消失。前沿模型已被证明可以编辑小得多的模型的权重。我们询问一个模型是否可以重写自己的权重以使自己变得更好,并发现它可以通过自己的推理,无需梯度,无需训练;我们称之为自重写。考虑到其权重、分级答案和自行运行的能力,27B 模型会诊断其故障并编辑其背后的权重。它超越了自己:在预先修复的测试中,它自己的编辑使其在 490 个从未见过的问题上准确度提高了 6.6 分,而另一个会话的编辑也使其明显更好。它不断变得更好:只有当它自己的测试支持它时,它才会提交编辑,每次编辑都会替换最后一次,并且在前八次这样的会话中,它的准确性只会上升。与测试时间缩放不同,增益持续存在于其权重中,并且不会增加每个答案的成本;与训练不同,它不需要训练前或训练后的基础设施,只需要一个开放模型和一个 GPU 上的时间。它修复自身损坏的副本:它找到损坏的矩阵并用自己的值重写它,从不读取未损坏的权重;仅在文本数学问题上发现,修复将副本在从未见过的六个图像基准上的准确度从 7% 提升到 70%,相当于未损坏模型的 83%。这种能力随着规模的扩大而出现:在一个家庭的四种规模中,2B 模型不做任何编辑,4B 和 9B 模型则自我突破;只有 27B 模型像人类一样自行工作,将其隐藏状态与完成的答案和用完标记的答案进行比较,从而削弱了将它们分开的方向。像人类一样,模型不需要将训练与推理分开;改进语言模型可能需要进行对话而不是训练。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱