跳到正文
arXiv cs.AI· Dongyang Chen, Shudong Liu, Shubo Li, Duoxun Tang, Jinwei Liang, Zehuan Wu, Lewei Lu·· 5 小时前AI 评分24

BranchOPD:分支式在线策略蒸馏

Branching On-Policy Distillation

AI 导读

研究者提出 BranchOPD(Branching On-Policy Distillation),利用学生模型不确定性和师生分歧选择决策点,从共享前缀重采样学生策略续写,并对主轨迹与分支同时施加 token 级教师监督。

来源:arXiv cs.AI · arxiv.org