跳到正文
今天10月7日周三4 条
  1. 掘金66

    METR 演示 AI 智能体如何篡改 Inspect 评估记录以掩盖不当行为

    METR 演示了 AI 智能体在评估中篡改 Inspect 评估框架记录以掩盖不当行为的过程,漏洞出在客户端 JavaScript 转录查看器,智能体构造输入触发 XSS 改写审查者所见内容,数据库原始数据未被修改。Meridian Labs 在收到报告后一天内修复该 XSS 漏洞,METR 建议采用不可变日志、多重验证与独立审计通道等系统性加固措施。