arXiv cs.AI· Ronghan Li, Fei Chen, Mingyu Lu·· 1 天前AI 评分24
GRPO 课程难度进阶:适度加难有益,过度加难有害
A Step Harder, Not a Step Too Far: The Benefits and Limits of Curriculum Difficulty Progression in GRPO
AI 导读
研究在 GRPO 中按当前策略重新估计样本难度,并设计分阶段课程逐步将难度带推向更难的样本。GSM8K 实验显示,持续选择中等难度样本并非最优:三个随机种子下,进阶到适度更难难度带的测试准确率为 0.6591 ± 0.0077,高于固定中等难度课程的 0.6449 ± 0.0024,但进一步进阶到更难难度带则降至 0.6405 ± 0.0053。
来源:arXiv cs.AI · arxiv.org