跳到正文
arXiv cs.LG· Vikhyath Kothamasu, Virginia Smith, Chhavi Yadav·· 6 小时前AI 评分32

DeCompBench:面向分解攻击的 LLM 智能体安全基准

Hidden in Plain Sight: Benchmarking Agent Safety Against Decomposition Attacks with DECOMPBENCH

AI 导读

研究者提出 DeCompBench,一个专门评估 LLM 智能体在分解攻击下安全性的基准,采用图形化框架按"设计即分解"原则将有害任务拆解为单独无害且可执行的子任务。实验显示,最先进智能体对整体有害任务的拒绝率很高,但对分解后变体的拒绝率显著下降,且常在不经意间完成对抗目标。数据集已公开。

来源:arXiv cs.LG · arxiv.org