arXiv cs.LG· Wentao Lu, Tianyu Zhu, Jesse Clark·· 7 小时前AI 评分24
面向扩散语言模型的结果路由蒸馏与强化学习
Outcome-Routed Distillation and Reinforcement Learning for Diffusion Language Models
AI 导读
研究提出一套无似然流水线，用于混合专家扩散语言模型（dLLM）：按验证器结果对 rollout 分组，混合组用无比率、组中心化的 REINFORCE，学生全部失败而教师成功时改用 KL 蒸馏。工具调用教师仅在 18.6% 训练提示上成功，24 步去噪时蒸馏超出教师 6.77 个百分点，路由再提升 18.31 个百分点。
来源：arXiv cs.LG · arxiv.org