arXiv cs.AI· Yafeng Tang, Hao Li, Hongsheng Yu, Qiang Fu·· 3 小时前AI 评分22
ReTeach：通过多轮反思与重试构建自教师模型
ReTeach: Building a Self-Teacher through Multi-Round Reflection and Retry
AI 导读
ReTeach 是一个反思式自蒸馏框架，仅用自生成尝试和结果级验证，通过多轮反思与重试构建自教师，无需参考答案、外部诊断反馈或跨样本记忆。在数学推理、科学问答和工具使用等六个基准上，ReTeach 平均准确率较 GRPO 提升 1.39 个百分点，学生模型经 on-policy 蒸馏后仍保持单次推理。
来源：arXiv cs.AI · arxiv.org