arXiv cs.LG· Randy Ardywibowo, Arnav Dalal, Jiantao Jiao·· 6 小时前AI 评分29
JOLT：让自教师适配学生的联合同策略学习与教学
A Good Self-Teacher Meets the Student Where They Are: Joint On-Policy Learning and Teaching
AI 导读
针对自蒸馏中特权信息可能让学生走捷径、反而损害性能的问题，研究者提出 JOLT，让同一策略同时扮演使用 KL 正则化目标的特权教师和无特权学生，进行密集同策略蒸馏。该方法在数学推理、编程、工具使用和终端使用任务上提升了训练效率与性能，加入学生奖励后还能进一步提升。
来源：arXiv cs.LG · arxiv.org