ReTeach：多轮反思与重试的自蒸馏框架

ReTeach 是一个反思式自蒸馏框架，仅用自生成尝试和结果级验证，通过多轮反思与重试构建自教师，无需参考答案、外部诊断反馈或跨样本记忆。在数学推理、科学问答和工具使用等六个基准上，ReTeach 平均准确率较 GRPO 提升 1.39 个百分点，学生模型经 on-policy 蒸馏后仍保持单次推理。

摘自 arXiv cs.AI

还没有足够的连续观测数据，暂不绘制趋势。