arXiv cs.AI· Dongyang Chen, Shudong Liu, Shubo Li, Duoxun Tang, Jinwei Liang, Zehuan Wu, Lewei Lu·· 5 小时前AI 评分24
BranchOPD:分支式在线策略蒸馏
Branching On-Policy Distillation
AI 导读
研究者提出 BranchOPD(Branching On-Policy Distillation),利用学生模型不确定性和师生分歧选择决策点,从共享前缀重采样学生策略续写,并对主轨迹与分支同时施加 token 级教师监督。
来源:arXiv cs.AI · arxiv.org