SAPD：无需 rollout 的步对齐蒸馏方法

Tianle Wang 等作者提出 SAPD（步对齐特权蒸馏），一种无需 rollout 的离线自蒸馏方法：把固定演示转化为按推理步骤对齐的分布监督，用参考解已知的进展为每一步提供针对性指导。 在数学推理基准上，作者称 SAPD 的平均表现优于监督微调和标签平滑，与同策略强化学习及自蒸馏相当，同时保留域外代码能力，训练循环速度约为同策略基线的 2 倍。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。