跳到正文
arXiv cs.LG· Haneen Najjar, Luca Scionis, Haritz Puerto, Sahar Abdelnabi·· 9 小时前AI 评分31

CORSA:面向检索与执行的技能注入攻击优化

Surviving the Router: Optimizing Skill Injections for Retrieval and Execution

AI 导读

现有针对 AI 智能体技能注入攻击的评估假设恶意技能已被选中执行,会高估攻击成功率;在真实多技能环境中,注入技能需先通过检索竞争,使现有注入的有效攻击成功率(ASR)下降 87-97%。

来源:arXiv cs.LG · arxiv.org