arXiv cs.LG· Rishabh Tiwari, Kusha Sareen, Lakshya A Agrawal, Joseph E. Gonzalez, Matei Zaharia, Kurt Keutzer, Inderjit S Dhillon, Rishabh Agarwal, Devvrit Khatri·· 7 小时前AI 评分33
让 LLM 持续学习：快慢双权重训练框架 FST 兼顾适应性与可塑性
Learning, Fast and Slow: Towards LLMs That Adapt Continually
AI 导读
研究者提出面向 LLM 的快慢学习框架 Fast-Slow Training（FST），以模型参数为“慢”权重、优化后的上下文为“快”权重，让快权重通过文本反馈吸收任务信息。
来源：arXiv cs.LG · arxiv.org