跳到正文
arXiv cs.AI· Aman Mehta, Anupam Datta·· 9 小时前AI 评分29

LLM 智能体为何过早锁定:诊断 ReAct 智能体的表征承诺现象

When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents

AI 导读

研究提出"表征承诺"指标,通过重复运行中同一步骤的隐藏状态相似度衡量 LLM 智能体行为何时趋于稳定。在 Llama-3.1-70B 运行 ReAct 于 HotpotQA 上,第 4 步相似度越高,整条轨迹变异性越低(r = -0.35),该模式在另外两个模型和 StrategyQA 上复现。

来源:arXiv cs.AI · arxiv.org