arXiv cs.CL· Dayoon Ko, Jihyuk Kim, Sohyeon Kim, Haeju Park, Dahyun Lee, Gunhee Kim, Moontae Lee, Kyungjae Lee·· 5 小时前AI 评分41
搜索智能体的"幻觉式完成":正确回答中多达 48% 仍有约束未验证
When Is Enough Not Enough? Illusory Completion in Search Agents
AI 导读
研究提出"幻觉式完成"(illusory completion)现象:在多约束问题上,搜索智能体在多达 48% 的正确回答中宣称任务完成,却仍有约束未经核实。团队用 Epistemic Ledger 追踪每轮检索页面与智能体主张的对应关系,覆盖 13 个智能体(从 7B RL 训练模型到前沿 LLM),发现训练与规模只提升准确率、不消除验证失败模式。
来源:arXiv cs.CL · arxiv.org