首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

观察线性化的位置:预测和纠正模型合并干扰

2026-11-20 1 阅读 约2分钟阅读 Ido Nitzan Hidekel, Dan Raviv
分享:
字号:
arXiv:2611.25000v1 公告类型:新摘要:模型合并通过将任务向量添加到共享主干来组合单独微调的模型。通常仅在构建和评估候选合并之后才评估干扰,这使得系数搜索成本高昂。我们证明,任务 A 的输出沿任务 B 的向量的一阶方向导数可以预测干扰,但前提是在适当的模型上进行评估。在接收器模型中,该导数预测每个任务和每个示例的附近合并,将无变化基线的准确性误差减半,并识别大多数预测翻转的示例。对于完整的多任务合并,单个评估是不够的;需要沿着合并路径进行两次评估。然而,在共享的预训练主干上,导数几乎与我们视觉实验中实现的变化正交,并且在 LoRA 语言模型试点中仅具有部分预测性。控制将这种失败与沿着接收器自己的任务向量的位移联系起来,而不仅仅是参数距离;不匹配出现在最初的几十个微调步骤中。冻结接收器本地响应会在合并系数中产生代理仿射。我们用它来构建 LR-Merge,这是一种无标签校正,通过对未标记探针进行凸教师匹配来优化系数,而无需通过合并网络进行反向传播。 LR-Merge 改进了所有测试的封闭式、各向同性和稀疏基础合并,随着更多任务的合并,收益通常会增加。使用预训练的而不是接收器本地的响应反而会降低基础合并的性能。 LR-Merge 通过合并网络来匹配精确的教师匹配,这需要大约三倍的时间来收敛,并且在相同的计算预算下执行类似的操作。一旦构建完成,代理就会在几秒钟内回答新的系数和任务子集查询。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱