拆解 On-Policy Distillation：教师的优势究竟在哪里？

研究从知识蒸馏视角重新审视 on-policy distillation（OPD），通过在师生分歧处进行受控 token 翻转来测量教师纠正带来的准确率增益。单 token 翻转在选定的失败轨迹上平均增益有限，而重复翻转可将准确率从 28.4% 提升至 74.5%，接近教师的 76.9%。