热点事件持续更新

研究：攻击性AI能力测量高估危害并误归因

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

一项研究指出，衡量AI攻击能力的工具存在两类失效：夸大危害，以及把属于周边系统的能力记在模型头上。在超过225次群体生成攻击中，LLM-as-judge判定Claude Sonnet 4在40%的攻击中被攻破，但人工核验未发现任何可操作的有害内容；同一测量下GPT-4o的有效危害率为45.8%。

AI 根据报道生成 · 2 小时前更新

最新进展10月8日 12:00

沿着报道，了解事件的不同侧面。

10月8日

12:00
arXiv cs.LG
限制模型却漏掉系统：攻击性 AI 治理中的测量与问责
一项研究指出，衡量 AI 攻击能力的工具存在两类失效：夸大危害，以及把属于周边系统的能力记在模型头上。在超 225 次群体生成攻击中，LLM-as-judge 判定 Claude Sonnet 4 在 40% 攻击中被攻破，但人工核验未发现任何可操作有害内容，而 GPT-4o 的有效危害率为 45.8%。

还没有足够的连续观测数据，暂不绘制趋势。