arXiv cs.AI· Vaibhav Singh, Eugene Belilovsky·· 8 小时前AI 评分24
PACT：沿自身生成路径对扩散语言模型做 RL 后训练
RL Post-Training Diffusion Language Models Along Their Own Generation Paths
AI 导读
针对扩散语言模型 RL 后训练中的"轨迹盲"问题，研究者提出 PACT（Potential-Anchored Consistency of Transitions），联合学习策略与一个由终端奖励锚定的标量势函数，用一致性损失匹配已揭示 token 的策略与参考分布对数概率比与势函数变化，无需序列似然估计或重要性比裁剪。
来源：arXiv cs.AI · arxiv.org