arXiv cs.CL· Haoyu Huang, Zhongwei Xie, Jiaxin Bai, Yisen Gao, Hong Ting Tsang, Wuganjing Song, Huihao Jing, Yufei Li, Yangqiu Song·· 9 小时前AI 评分26
面向大语言模型的参数内记忆增强综述
Towards In-Parameter Memory Augmentation for Large Language Models
AI 导读
一篇综述系统梳理了在部署阶段为 LLM 增强"参数内记忆"的方法:将承载记忆的参数对象在推理时接入前向传播,以补充 ICL 消耗上下文容量、重复离散编码成本随上下文增长的问题。
来源:arXiv cs.CL · arxiv.org