跳到正文
热点事件持续更新

研究者提出单次采样策略优化方法SR-PPO

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Fengdi Che等作者提出单次 rollout 策略优化方法 SR-PPO,用于降低 GRPO 需多次 rollout 采样的成本。该方法结合蒙特卡洛 token 级优势估计与 Pass@k 梯度重加权,每个提示词仅用一次 rollout。 作者称,SR-PPO 在推理与逻辑基准上实现稳定学习,性能与 GRPO 相当,且在标准 Pass@1 PPO 性能下降的 off-policy 漂移下依然有效。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    SR-PPO:单次 rollout 的 Pass@k 策略优化

    针对 GRPO 需多次 rollout 采样成本高的问题,研究者提出单次 rollout 策略优化方法 SR-PPO,结合蒙特卡洛 token 级优势估计与 Pass@k 梯度重加权。每个提示词仅用一次 rollout,SR-PPO 在推理与逻辑基准上实现稳定学习,性能与 GRPO 相当,且在标准 Pass@1 PPO 性能下降的 off-policy 漂移下依然有效。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。