跳到正文
热点事件持续更新

RM-OPD:用同策略蒸馏训练生成式奖励模型

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Qinglin Su 等作者发布论文提出 RM-OPD,一个两阶段框架,用于训练通用生成式奖励模型(GRM)。第一阶段用单域 GRPO 微调,培养各领域专家教师模型;第二阶段通过路由同策略蒸馏、领域贡献重加权和可选的评判标准上下文蒸馏,把多个教师整合为单一学生模型。 作者称,在多个 RM benchmark 和两个基座模型上,RM-OPD 一致优于原始 Mix-RL 及其他强基线,并出现“教师超越”效应。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.CL
    RM-OPD:用同策略蒸馏训练生成式奖励模型

    RM-OPD 是一个两阶段框架,通过同策略蒸馏(OPD)训练通用生成式奖励模型(GRM),先以单域 GRPO 微调培养领域专家教师模型,再经路由同策略蒸馏、领域贡献重加权和可选的评判标准上下文蒸馏整合为单一学生模型。在多个 RM benchmark 和两个基座模型上,RM-OPD 一致优于原始 Mix-RL 及其他强基线,并出现"教师超越"效应。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。