CALIF方法缓解可验证指令遵循中的奖励黑客

1. 12:00
   arXiv cs.CL

   诊断并纠正可验证指令遵循中的奖励黑客问题

   可验证指令遵循基准只看输出约束是否满足，前沿模型即使回答缺乏实质内容也能拿满分，用同一验证器标准做训练奖励会引发奖励黑客。为此提出 CALIF，用现有冻结参考策略在仅给定请求下评估回复似然，加入校准的似然奖励，无需额外评判器或奖励模型。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。