跳到正文
arXiv cs.CL· Minh-Anh Nguyen, Nguyen T. Ha Lan, Xiyan Fu, Dung D. Le, Wei Lu·· 5 小时前AI 评分26

大推理模型剪枝后"会推理却不会停":TGAS 免训练激活引导修复

To Reason but Not to Stop: Understanding and Recovering Pruned Large Reasoning Models

AI 导读

研究发现剪枝大推理模型(LRM)的精度下降主要源于"不会停"而非"不会推理":稀疏度越高,模型越容易在正确答案已出现后仍陷入重复循环,无法在 token 预算内终止。

来源:arXiv cs.CL · arxiv.org