跳到正文
arXiv cs.AI· Chen Xi, Ding Ruixue, Wang Zhigaoyuan, Zhang Fanrui, Zhang Qiang, Chen Boli, Wang Shihang, Wang Tianfu, Ren Ailin, Wang Pengyong, Xie Pengjun, Xiong Hui·· 6 小时前AI 评分31

Rollout-Time Intervention:让智能体强化学习突破策略能力边界

Rollout-Time Intervention: Unlocking Agentic Reinforcement Learning Beyond Policy Limits

AI 导读

研究者提出 Rollout-Time Intervention(RTI),在 rollout 阶段利用奖励侧证据(评估 rubric)把错误轨迹转化为成功轨迹,为策略自身难以解决的任务提供学习信号。RTI 通过过滤分布偏移过大的轨迹来引导策略优化,在五个 benchmark 上持续优于 RL 基线,使后训练策略逼近更强 LLM 的表现并突破原有能力边界。代码已开源。

来源:arXiv cs.AI · arxiv.org