arXiv cs.AI· Haodong Chen, Shengtao Wen, Dong Liang, Lingbing Guo, Xiang Chen·· 8 小时前AI 评分22
多模态大模型遗忘学习新方法 FASD:解耦知识遗忘与拒答学习
Decoupling Knowledge Forgetting and Refusal Learning in MLLM Unlearning
AI 导读
针对多模态大模型遗忘评估只关注是否停止输出目标信息的缺陷,研究者提出 Forget-Aware Self-Distillation(FASD),将遗忘拆分为行为与知识两条通道:行为通道从被提示"无知"的自身副本中蒸馏拒答,并遮蔽目标 token 防止重新教会已遗忘概念;知识通道直接压制标准答案片段。实验显示 FASD 能成功遗忘目标知识、防止开放式任务信息泄露,并保持留存数据性能。
来源:arXiv cs.AI · arxiv.org