研究：内部激活探针检测金融问答幻觉

一项新研究提出用模型内部激活的线性探针检测金融问答中的“自信幻觉”，即模型答错却表现自信。研究在 FinQA 和 TAT-QA 数据集上训练残差流线性探针，并在 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 三个模型上测试。 结果显示，探针检测自信幻觉的 AUROC 为 0.68–0.77，高于 token log-probabilities 和模型自评等输出层基线的 0.55–0.63。作者 Richard Zhe Wang 称，研究关注的是内部激活能否可靠检测这类错误，以及是否携带输出层置信信号之外的信息。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。