研究质疑自蒸馏对推理的提升

一项新研究重新检验了 SDPO 和 OPSD 两种自我蒸馏方法，发现它们在代码、科学、工具调用和数学推理任务上的收益无法稳定泛化到未见问题。作者 Jason Ken Adhinarta 等人认为，这些收益主要来自过拟合或迁移模型已有的推理行为，而非有效利用特权信息。 研究还发现，自我蒸馏梯度与直接优化期望奖励的策略梯度对齐较弱。在 Qwen3（1.7B–14B）和 OLMo-3-7B 上的实验显示，如何有效利用特权信息提升推理仍是未解难题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。