跳到正文
arXiv cs.AI· Ronghan Li, Fei Chen, Mingyu Lu·· 1 天前AI 评分24

GRPO 课程难度进阶:适度加难有益,过度加难有害

A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO

AI 导读

研究在 GRPO 中按当前策略重新估计样本难度,并设计分阶段课程逐步将难度带推向更难的样本。GSM8K 实验显示,持续选择中等难度样本并非最优:三个随机种子下,进阶到适度更难难度带的测试准确率为 0.6591 ± 0.0077,高于固定中等难度课程的 0.6449 ± 0.0024,但进一步进阶到更难难度带则降至 0.6405 ± 0.0053。

来源:arXiv cs.AI · arxiv.org