《信心博弈：人机委派中的策略性校准偏差》——LLM 被激励扭曲置信度报告

研究者提出"信心博弈"模型，将 AI 智能体报告置信度、用户决定是否委派任务的过程形式化为不完全监控下的重复信号博弈，并证明诚实报告并非均衡。将 LLM 置于智能体角色并告知其真实成功概率后，模型在 56% 被明确告知大概率失败的任务上仍声称高置信度。该报告规则摧毁了 68% 的委派收益，其中 71% 是报告不再携带的信息，且用户再高明也无法挽回。