RELAY：评分标准强化学习的选择性自蒸馏方法

Kunwang Zheng等作者发布论文提出RELAY，一种用于基于评分标准强化学习的选择性自蒸馏与自适应交接方法。 该方法分两阶段：Stage 1结合冻结教师的token级监督与GRPO，平台期检测器随后移除教师；Stage 2仅用GRPO继续训练。据论文，RELAY利用优势值和奖励挑选正优势及低分零优势的rollout，并通过监控蒸馏损失决定何时让教师退出。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。