arXiv cs.AI· Teresa Pui Yee Yong, Win Kent Ong, Chee Seng Chan·· 6 小时前AI 评分29
研究揭示：机器遗忘的输出层遗忘不等于真正遗忘
Erased, but Not Gone: Output Forgetting Is Not True Forgetting
AI 导读
一项 arXiv 研究提出用重训练一致的表示遗忘来检验机器遗忘（MU），发现标准输出层评估会系统性高估遗忘效果。在多种方法、数据集和模型上，模型虽在输出层看似已遗忘，但表示空间仍存在结构化残差，包括遗忘/保留不对称、方向性错配和沿重训练相关方向的集中残差，部分差异甚至超过独立重训练的波动，并在再学习攻击下带来信息恢复风险。
来源：arXiv cs.AI · arxiv.org