arXiv cs.AI· Aman Mehta, Anupam Datta·· 9 小时前AI 评分29
LLM 智能体为何过早锁定:诊断 ReAct 智能体的表征承诺现象
When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents
AI 导读
研究提出"表征承诺"指标,通过重复运行中同一步骤的隐藏状态相似度衡量 LLM 智能体行为何时趋于稳定。在 Llama-3.1-70B 运行 ReAct 于 HotpotQA 上,第 4 步相似度越高,整条轨迹变异性越低(r = -0.35),该模式在另外两个模型和 StrategyQA 上复现。
来源:arXiv cs.AI · arxiv.org