研究诊断终端智能体训练失败三类问题

Xi Qin等作者发布一项元智能体流水线研究，用Claude Opus等前沿模型作为元智能体，为强化学习训练生成终端任务与验证器。研究发现，即使任务能产出可运行的Docker镜像和可执行测试套件，也不代表端到端流程可靠。 该研究将失败归为三类：基准无效、harness脆弱、奖励错位。作者称，这三类问题正是其提出该流水线所要诊断的对象。

AI 根据报道生成 · 14 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。