跳到正文
arXiv cs.CV· Lingfeng He, De Cheng, Huaijie Wang, Xi Yang, Nannan Wang, Xinbo Gao·· 5 小时前AI 评分22

LoDA:面向 LoRA 持续学习的任务驱动子空间分解,兼顾知识共享与隔离

Task-Driven Subspace Decomposition for Knowledge Sharing and Isolation in LoRA-based Continual Learning

AI 导读

针对 LoRA 持续学习中现有方法忽略任务共享方向、且旧任务零空间基在相关任务上近乎失效的问题,研究者提出 LoDA,通过两个基于能量的目标做任务驱动分解,构建通用与任务专属的 LoRA 子空间。

来源:arXiv cs.CV · arxiv.org