RM-OPD:用同策略蒸馏训练生成式奖励模型
热点事件持续更新
RM-OPD:用同策略蒸馏训练生成式奖励模型
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Qinglin Su 等作者发布论文提出 RM-OPD,一个两阶段框架,用于训练通用生成式奖励模型(GRM)。第一阶段用单域 GRPO 微调,培养各领域专家教师模型;第二阶段通过路由同策略蒸馏、领域贡献重加权和可选的评判标准上下文蒸馏,把多个教师整合为单一学生模型。 作者称,在多个 RM benchmark 和两个基座模型上,RM-OPD 一致优于原始 Mix-RL 及其他强基线,并出现“教师超越”效应。
AI 根据报道生成 · 3 小时前更新
最新进展10月15日 12:00
RM-OPD:用同策略蒸馏训练生成式奖励模型报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.CLRM-OPD:用同策略蒸馏训练生成式奖励模型
RM-OPD 是一个两阶段框架,通过同策略蒸馏(OPD)训练通用生成式奖励模型(GRM),先以单域 GRPO 微调培养领域专家教师模型,再经路由同策略蒸馏、领域贡献重加权和可选的评判标准上下文蒸馏整合为单一学生模型。在多个 RM benchmark 和两个基座模型上,RM-OPD 一致优于原始 Mix-RL 及其他强基线,并出现"教师超越"效应。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。