智能AI
morning
GRAFT:用于持续语言和多模态学习的跨主干 LoRA 重用
2026-11-17
1 阅读
约1分钟阅读
Ha Pham Thien Dinh, Ming Liu, Jiesi Guo, Matteo Vergani, Kewen Liao
字号:
arXiv:2611.18638v1 公告类型:新 摘要:在持续学习中,参数高效的微调使大型语言模型能够通过 LoRA 等轻量级适配器获得新功能,但预训练适配器的重用通常仅限于共享同一主干的模型。这限制了学习能力从语言模型到多模态模型的迁移。我们提出了 GRAFT(通过特征空间传输的通用适配器重用),这是一种跨主干 LoRA 重用的框架。 Graft 从模态感知库中检索最相关的预训练 LoRA 适配器,并通过相应源和目标特征空间之间的学习线性桥将其映射到目标主干。我们在十个 Super-NaturalInstructions 文本任务(将 Qwen2.5 LoRA 转移到 Qwen2.5-VL)和五个多模态任务(其中直接重用 Qwen2.5-VL LoRA)上评估 GRAFT。与随机初始化的 LoRA 适配器相比,Graft 提高了大多数评估任务的性能。这些结果表明,Graft 提供了一种简单而有效的机制,可以在持续学习中跨语言和多模态模型重用学到的能力。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱