arXiv cs.CL· Hongru Cai, Ran Wei, Wenjie Wang, Chengfa Wu, Ning Song, Yongqi Li, Wenjie Li·· 4 小时前AI 评分27
EngramEdit:通过条件记忆实现 LLM 解耦式知识更新
EngramEdit: Decoupled Knowledge Updates in LLMs through Conditional Memory
AI 导读
EngramEdit 通过条件记忆架构实现 LLM 的解耦式知识更新,在保持 Transformer 主干固定的前提下独立修改事实知识,编辑成功率接近完美。经修订的知识可跨未见表达方式使用,在 CoT 提示下多跳推理准确率接近最强基线的三倍,且不相关知识及通用能力基本不受影响。
来源:arXiv cs.CL · arxiv.org