扩散语言模型新训练管线：结果路由蒸馏与强化学习

Wentao Lu 等作者提出一套面向混合专家扩散语言模型（dLLM）的无似然训练管线：按验证器结果对 rollout 分组，混合组用无比率、组中心化的 REINFORCE 更新，学生全部失败而教师成功时改用 KL 蒸馏。 作者报告，工具调用教师仅在 18.6% 的训练提示上成功；在 24 步去噪设置下，蒸馏结果超出教师 6.77 个百分点，加入路由后再提升 18.31 个百分点。这些数字来自作者自述的评估，尚待独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。