arXiv cs.AI· Yutong Chen, Guangfu Guo, Zhichao Xu, Kunpeng Liu·· 9 小时前AI 评分21
DualOPSD:在 On-Policy 自蒸馏中闭合反馈回路
DualOPSD: Closing the Feedback Loop in On-Policy Self-Distillation
AI 导读
DualOPSD 提出一种耦合的师生交替更新机制,让学生保留 OPSD 的截断前向 KL 目标,同时让特权教师在每个学生更新步骤后适应新学生,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 将 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,并保留对特权参考的敏感性。
来源:arXiv cs.AI · arxiv.org