GracefulRL：让语言模型学会优雅失败

研究者 Daman Arora 等人提出 GracefulRL 方法，训练语言模型在行动不可靠时主动回退，而非冒险猜测。该方法针对强化学习只奖励成功、导致模型倾向冒险的问题，通过重塑优化景观，在保留任务求解能力的同时让模型学会安全回退。 据作者称，GracefulRL 仅依赖结果级奖励信号，无需回退时机标注或额外推理时验证器，并在多种任务和规模上实现了选择性回退。相关论文发布于 arXiv cs.LG。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。