arXiv cs.CL· Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong, Weihao Yuan, Siyu Zhu·2026-10-09 12:00· 3 小时前AI 评分27

REMORY：用残差记忆网络实现上下文压缩

REMORY: Learning Residual Memory for Context Compaction

AI 导读

REMORY 是一种神经记忆网络，在文本摘要之外生成有界的软记忆 token，帮助冻结的 LLM 逼近使用完整历史时的输出。在 SummHay 上，REMORY 仅用 5.2% 的输入位置就接近全上下文联合得分，并在几乎不降低洞察覆盖率的情况下提升来源归因。

来源：arXiv cs.CL · arxiv.org