arXiv cs.AI· Guanlan Yue, Hang Yu, Xiaoyong Huang, Ruipeng Li, Wei Zhang, Bingchang Liu, Rui Wang·· 1 天前AI 评分27
MENTOR:用同策略教学干预从失败中学习,缓解 RLVR 零奖励崩溃
MENTOR: Learning from Failure with On-Policy Pedagogical Intervention
AI 导读
MENTOR 是一个多智能体框架,通过实时诊断失败根因并动态生成教学提示词,引导学习智能体下一次尝试,从而缓解 RLVR 训练中的零奖励崩溃。它可作为即插即用模块接入 GRPO 等策略优化流程,无需改动训练基础设施。在数学与代码生成任务上,MENTOR 平均相对提升最高达 78.3%(Llama-3.2-3B-Instruct),优于现有最优基线。
来源:arXiv cs.AI · arxiv.org