Risky-Bench智能体安全评测框架发布

Jingnan Zheng等作者提出并发布Risky-Bench，一个面向生活辅助部署场景的智能体安全评估框架。该框架从领域无关安全原则推导情境化安全准则，并按分层攻击面系统探测风险，覆盖外卖、到店协助和在线旅行预订场景。 研究团队在750项任务上评估了七个SOTA智能体，攻击成功率介于25%至60%，暴露出威胁模型特定漏洞、攻击面依赖的风险集中以及显式推理的模型依赖效应。代码与数据已公开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。