arXiv cs.AI· Chi Ruan, Yujie Chen, Zixiang Zhao, Jingcai Guo, Haotong Qin·· 8 小时前AI 评分22
RECAP：让低比特推理模型在它读过的历史上下文上做校准
RECAP: Calibrating Low-Bit Reasoning Models on the History They Read
AI 导读
针对低比特量化会显著损害长链推理的问题，研究者提出训练后量化方法 RECAP，通过动态前缀校准和前缀读取几何，在模型实际读到的历史上下文上做校准。在 W4A4KV4 设置下，RECAP 使 DeepSeek-R1-Distill-Qwen-1.5B 在 MATH500 上准确率较基线提升 13.3 个百分点，Qwen3-4B 在 AIME-120 上提升 15.8 个百分点。
来源：arXiv cs.AI · arxiv.org