arXiv cs.LG· Hao Li, MeiJia Chen, Weijie Ren, Donghan Li, Zijun Tian, Jingchun Huang, Naibo Wang·· 7 小时前AI 评分22
RIDE：在表征空间外推 RL 诱导变化，让 on-policy 蒸馏学生超越教师
The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation
AI 导读
研究者提出 RIDE（RL-Induced Direction Extrapolation），在表征空间直接外推强化学习带来的变化：在每一层和每个 token 位置计算教师模型与其 RL 前 checkpoint 的残差，将学生隐藏状态回归到沿该残差方向超越教师的目标上。
来源：arXiv cs.LG · arxiv.org