arXiv cs.AI· Shaswata Mitra, Raj Patel, Subash Neupane, Sudip Mittal, Md Rayhanur Rahman, Shahram Rahimi·· 10 小时前AI 评分26
规则止于何处，裁判始于何处：测量多智能体系统安全中的判断边界
Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security
AI 导读
研究将 LLM 多智能体系统（MAS）的防御组织为五项原则并实现为 DEFER1，包含 28 项检查的级联，能拦截的拦截、其余交给四人评审团。在四个领域的独立测试中，攻击成功率从约 30.0% 降至约 3.0%，78% 被拦截的攻击由确定性检查处理。安全运营领域仅四分之一提案会到达评审团，但风险评分审批门会错误放行多数攻击提案、却只放行少数合法提案。
来源：arXiv cs.AI · arxiv.org