arXiv cs.AI· Li Jiang, Haoran Xu, Yichuan Ding, Amy Zhang·· 9 小时前AI 评分26
轨迹精炼蒸馏(TRD):一种解决前缀失败的 LLM 后训练方法
Trajectory-Refined Distillation
AI 导读
研究提出轨迹精炼蒸馏(TRD),一种在 on-policy 支持范围内借助教师指导修正学生 rollout 的轨迹级方法,从源头缓解 on-policy 蒸馏(OPD)中的前缀失败问题。
来源:arXiv cs.AI · arxiv.org