arXiv cs.AI· Yeonsung Jung, Zhiyuan Wang, Zifan Wang, V\'itor Albiero, Benjamin Newman, Edoardo Debenedetti, Ivan Evtimov, Ninareh Mehrabi·· 1 天前AI 评分27
X-AgentRed：在演进的多服务生态中对个人 Agent 进行红队测试
X-AgentRed: Red-Teaming Personal Agents in Evolving Multi-Service Ecosystems
AI 导读
X-AgentRed 是一个自进化红队测试框架，通过工具依赖图发现有害的工具调用路径，并利用执行反馈扩展和优化这些路径。在四个前沿 Agent 模型上，X-AgentRed 的有害路径率达到 STAC 的 1.77 倍，工具覆盖平均提升至 2.99 倍。该方法通过分析工具效果、潜在危害和执行前置条件构建有向图，采样生成真实场景以暴露跨服务组合失效。
来源：arXiv cs.AI · arxiv.org