arXiv cs.CL· Minglai Yang, Xinyu Guo, Zhengliang Shi, Utkarsh Tyagi, Mian Zhang, Razvan Dumitru, Sunjie Hou, Yunzhong He, Daniel Yue Zhang, Ying Liu, Dan Roth·· 5 小时前AI 评分31
Rubric Dropout：用评分标准随机丢弃缓解 rubric-as-reward RL 中的奖励黑客
Rubric Dropout: A Simple Way to Mitigate Reward Hacking in Rubric-as-Reward RL
AI 导读
针对 rubric-as-reward 强化学习中策略学会钻评分标准空子的问题，研究者提出 Rubric Dropout：每步训练随机移除部分 rubric 评分标准，同一 prompt 的响应仍用同一子集打分以保证奖励可比，评估时始终使用完整 rubric。
来源：arXiv cs.CL · arxiv.org