arXiv cs.AI· Suorong Yang, Jiaxin Wang, Jiaming Su, Chentao Yue, Furao Shen, Peng Ye, Soujanya Poria·· 6 小时前AI 评分27
不确定性引导的渐进收缩框架：用 0.22% 优化预算实现高效推理后训练
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
AI 导读
研究者提出不确定性引导的渐进收缩框架，通过围绕中间推理状态构建蒙特卡洛推理树来刻画过程级不确定性，先将原始语料收缩为紧凑的教师信息池，再在 SFT 中按学生演化学习状态进行在线路由。在多种推理基准和 LLM 系列上，该方法仅用全量数据 SFT 的 0.22% 优化预算、训练曝光减少超 450 倍，仍保持或提升推理性能，并可跨异构学生模型、黑盒教师和弱到强迁移泛化。
来源：arXiv cs.AI · arxiv.org