跳到正文
arXiv cs.LG· Kaixiang Zhao, Tianrun Yu, Shangzhe Li, Yuxiao Yang, Amanda Hughes, Weitong Zhang, Taylor W. Killian·· 7 小时前AI 评分22

CriticOPD:用批评引导的在线策略蒸馏恢复可靠监督

Recovering Reliable Supervision via Critique-Guided On-Policy Distillation

AI 导读

针对在线策略蒸馏(OPD)中教师模型会跟随学生错误、无法从错误前缀恢复正确答案的问题,研究者提出 CriticOPD,利用教师的错误识别能力对错误 rollout 进行批评,让学生据此重写解答,并将批评作为特权信息用于教师打分、学生训练时不使用批评。在两个 Qwen3 学生模型和六个数学推理基准上,CriticOPD 均优于 OPD,在竞赛题上提升最大。

来源:arXiv cs.LG · arxiv.org