新审计框架揭示提示注入防御漏洞

研究者 Xiaoxue Yang 等人提出一套提示注入防御的审计框架，利用微调过程中的中间检查点作为优化攻击的跳板，在无需发明新攻击的前提下对防御进行上线前压力测试。 结合 GCG 和 BEAST 等优化攻击，该框架将针对当前最先进防御的攻击成功率从接近零提升至最高 96%。研究者称，这表明现有评估实践会大幅高估模型鲁棒性，部署前在强对抗条件下审计防御可缩短反馈周期、避免对用户造成实际危害。

AI 根据报道生成 · 49 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。