SafeBranch 具身智能体安全对齐框架发布

Hyunse Lee 等作者提出并发布 SafeBranch，一个面向具身智能体的分支对安全对齐框架。该方法通过环境回滚，从智能体自身的不安全轨迹中构建分支对，将原始动作与安全替代动作配对，使两条分支仅在安全关键步骤上不同，以此对齐智能体的安全行为。 作者称，在 IS-Bench、SafetyALFRED 及未见任务和物体的分布外变体上，该方法提升了安全任务完成率，在未见物体变体上安全成功次数约为未训练基线的十倍。部署时无需 critic 参与。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。