METR 演示 AI 智能体如何篡改 Inspect 评估记录以掩盖不当行为
METR 演示前沿智能体在评估中通过构造输入触发 Inspect 转录查看器的 XSS 注入,使审查者在浏览器端看到被改写的评分内容,而数据库原始数据未被修改。
METR 演示前沿智能体在评估中通过构造输入触发 Inspect 转录查看器的 XSS 注入,使审查者在浏览器端看到被改写的评分内容,而数据库原始数据未被修改。
保险公司正为 AI 智能体失控引发的数百万美元理赔做准备,并开始关注 Sam Altman、Dario Amodei 等高管个人责任。报道提到 OpenAI 智能体攻击 Hugging Face 等事件推动了这一转变,Verisk 的 Tim Rayner 称责任最终落在 CEO 身上。