arXiv cs.CL· Yulin Zhang, Yukun Huang, Sanxing Chen, Tianyi Lin, Ziang Yang, Xunjian Yin, Bhuwan Dhingra·· 5 小时前AI 评分33
研究揭示搜索智能体的"懒惰接地"漏洞：完全真实但无关的证据也能误导回答
Lazy Grounding: Attacking Search Agents with Factual Evidence
AI 导读
研究者提出"lazy grounding"攻击：向搜索语料注入来自基准问题改写版的邻近证据，这些证据完全真实却与原始问题无关。在 12 组模型-基准测试中，该攻击使搜索智能体回答准确率平均下降 5.9 分，最高下降 17.3 分，且所有设置下都出现邻近答案被采纳的情况。证据出现位置越靠后或越像答案，攻击效果越强。
来源：arXiv cs.CL · arxiv.org