跳到正文
arXiv cs.AI· Yue Yu, Bowen Zuo, David Crandall, Yinglun Zhu, Dongruo Zhou·· 1 天前AI 评分22

StepRS-GRPO:面向扩散语言模型的分步风险敏感 GRPO 方法

Exploring More, Reasoning Better: Stepwise Risk-Sensitive GRPO for Diffusion Language Models

AI 导读

研究者提出 StepRS-GRPO,一种在去噪状态间动态调整组优势变换风险系数的强化学习方法,用于扩散大语言模型(dLLM)。在多个 dLLM 骨干和数学推理基准上,该方法相比 centered GRPO 同时提升 pass@1 准确率与 pass@k 覆盖率,并增加答案多样性。消融实验显示,状态分配与调度方向的贡献在将优势 RMS 与 centered GRPO 匹配后依然成立。

来源:arXiv cs.AI · arxiv.org