arXiv cs.CL· Mohammed Rawhani, Dervi\c{s} Karabo\u{g}a, \"Ozkan Ufuk Nalbanto\u{g}lu, Alper Ba\c{s}t\"urk, Bahriye Akay·· 4 小时前AI 评分22
MixedPEFT：混合多种 PEFT 方法与混合目标实现无监督域适应
MixedPEFT: Combining Multiple PEFT Methods with Mixed Objectives for Unsupervised Domain Adaptation
AI 导读
MixedPEFT 将可逆适配器与 LoRA 结合，在标注源域数据上优化分类、在无标注目标域数据上做掩码语言建模，仅更新 7% 模型参数。在 MNLI 的 20 个域偏移上，该方法平均超越 UDapter 1.41 个百分点、全量微调的 DANN 1.26 个百分点、DSN 0.86 个百分点，刷新参数高效无监督域适应的 SOTA。
来源：arXiv cs.CL · arxiv.org