arXiv cs.LG· Daman Arora, Xuecheng Liu, Himanshu Gaurav Singh, Fahim Tajwar, Abitha Thankaraj, Ruslan Salakhutdinov, Haiwen Feng, Yuda Song, Andrea Zanette·· 7 小时前AI 评分31
训练语言模型学会优雅失败：GracefulRL 让模型在不可靠时主动回退
Training Language Models to Fail Gracefully
AI 导读
针对强化学习只奖励成功、导致模型倾向冒险猜测的问题，研究者提出 GracefulRL，通过重塑优化景观训练模型在保留任务求解能力的同时，学会在行动不可靠时执行安全回退策略。该方法仅依赖结果级奖励信号，无需回退时机标注或额外推理时验证器，在多种任务和规模上均实现了选择性回退。
来源：arXiv cs.LG · arxiv.org