arXiv cs.CL· Richard Zhe Wang·· 5 小时前AI 评分32
金融问答中 LLM 自信幻觉的检测：基于内部激活的线性探针研究
Confidently Wrong: Detecting Hallucinations in Financial Question Answering from LLM Internal States
AI 导读
针对 LLM 在金融问答中"自信答错"的问题，研究在 FinQA 和 TAT-QA 上训练残差流线性探针检测幻觉。在 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 上，探针检测自信幻觉的 AUROC 达 0.68-0.77，显著优于 token log-probabilities 和模型自评等输出层基线（0.55-0.63）。
来源：arXiv cs.CL · arxiv.org