arXiv cs.CL· Kunwang Zheng, Xinyu Sun, Yu Cao, Shuocheng Li, Lei Cheng, Ying Liu, Qilong Zhang, Jinlong Chen, Hua Yang, Qianglong Chen·· 5 小时前AI 评分22
RELAY:面向评分标准强化学习的自适应交接选择性自蒸馏方法
RELAY: Selective Self-Distillation with Adaptive Hand-off for Rubric-Based Reinforcement Learning
AI 导读
RELAY 提出一种选择性自蒸馏与自适应交接方法,用于基于评分标准的强化学习:Stage 1 结合冻结教师的 token 级监督与 GRPO,平台期检测器随后移除教师,Stage 2 仅用 GRPO 继续训练。
来源:arXiv cs.CL · arxiv.org