arXiv cs.AI· Yutong Zhi, Jie Zhang, Xiuqi Lu, Jiayuan Xu, Jing Shao·· 8 小时前AI 评分37
TRAP：针对 LLM 智能体工具结果错误绑定问题的重放攻击
TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents
AI 导读
研究者提出 TRAP 工具结果重放攻击，用于探测 LLM 智能体中的工具结果错误绑定（tool-result misbinding）问题，并发布 ReplayBench 基准，覆盖 19 个智能体场景、4 种失败属性和 3 种重放机制。在 8 个 LLM、3 个智能体框架上测试，跨任务重放的平均最终状态错误率达 0.649，失败主要定位在模型侧动作生成环节。
来源：arXiv cs.AI · arxiv.org