跳到正文
arXiv cs.LG· Josh McGiff, Salma Mekaoui, Robert Shanahan, Nikola S. Nikolov·· 6 小时前AI 评分24

AutoAdapt:自动发现领域实现低成本扩展

AutoAdapt: Automatic Domain Discovery Enables Low-Cost Extensibility

AI 导读

AutoAdapt 是一个模块化框架,可自动发现潜在领域,并为每个领域独立并行训练 LoRA 适配器,通过无参数路由整合新领域与新数据,无需修改其他适配器或重训全模型。在 14 个领域基准和 GPT-4o 成对评判中,AutoAdapt 达到与全领域 LoRA 适配器相当的表现。该方法从构造上避免领域干扰,实现无需分类体系的模块化领域专精,且不损失整体性能。

来源:arXiv cs.LG · arxiv.org