研究者提出AI Agent变更风险评估框架agent-risk

研究者 Yue Zhao 等人提出名为 agent-risk 的框架，用于在修改已部署 AI 智能体（如收紧安全门、更换模型）之前，基于现有日志评估变更风险。其做法是重放已记录的 episode，前提是假设其他条件不变、且智能体不会预判这一变更。 在 bash 沙箱实验中，仅凭 7,200 条 episode 日志无法判定两个重试门；而从保存状态重跑各门被拦截的 episode，以实时测试一半的智能体调用量，即复现了两个线上决策。研究者还称，在缺少逐步危害记录时，停止门的认证危害上限最高上升 2.5 倍。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。