arXiv cs.CL· Yuxuan Gu, Kequan Niu, Xiaocheng Feng, Yun Li, Yiqiao Yang, Bing Qin·· 2 小时前AI 评分24
CIG-SFT：面向可泛化后训练的条件信息增益方法
What Should SFT Learn? Conditional Information Gain for Generalizable Post-Training
AI 导读
研究者提出 CIG-SFT，一种信息论框架，通过对比冻结参考模型在有无任务输入时的 token 似然，估计每个示范 token 携带的任务条件信息增益，并据此推导出等价的标量加权 SFT 目标。在数学推理和代码生成基准上，CIG-SFT 持续优于标准 SFT 和近期自适应微调基线，在困难评测分布上的泛化提升尤为明显，且无需额外训练数据或在线 rollout。
来源：arXiv cs.CL · arxiv.org