arXiv cs.CL· Nhat Minh Pham, Duy Tung Doan, Quang Huy Phung, Thi Duyen Ngo, Vinh Van Nguyen, Khac-Hoai Nam Bui·· 5 小时前AI 评分22
SPARK：在投机式 GRPO rollout 中利用验证反馈优化草稿模型
SPARK: Learning from Verification in Speculative GRPO Rollouts
AI 导读
SPARK 是一种轻量自适应机制，利用目标模型的验证反馈在生成过程中修正草稿模型预测，以加速投机式 GRPO 训练。在 21 个模型-数据集设置上，其生成速度较 EAGLE3 式和 DFlash 式基线分别提升 32.7% 和 11.4%，端到端 GRPO 训练速度分别提升 32.2% 和 8.5%。
来源：arXiv cs.CL · arxiv.org