跳到正文
arXiv cs.LG· Zekun Cai, Xinyuan Song, Yiheng Yao, Xuan Song, Ryosuke Shibasaki, Liang Zhao·· 7 小时前AI 评分22

LoTiC:参数高效的时间域泛化方法

Parameter-Efficient Temporal Domain Generalization

AI 导读

研究者提出 LoTiC,一种参数高效的时间域泛化(TDG)方法,将时间更新分解为共享低秩基与紧凑核心,仅在 r*r 空间学习时间动态,而非追踪完整适配器。在 6 个基准、3 种模态、66M 至 8B 参数骨干上,LoTiC 在 15 个设置中 14 项排名第一,仅比 LoRA 多 0.13–0.51% 可训练参数,训练速度比参数动态基线快 1.8–7.1 倍。

来源:arXiv cs.LG · arxiv.org