arXiv cs.AI· Vikash Singh, Debargha Ganguly, Haotian Yu, Chengwei Zhou, Prerna Singh, Brandon Lee, Vipin Chaudhary, Gourav Datta·· 9 小时前AI 评分27
用形式化验证为视觉语言模型的临床推理提供保障
Toward Guarantees for Clinical Reasoning in Vision Language Models via Formal Verification
AI 导读
研究者提出一种神经符号验证框架，将 VLM 生成的放射学报告自由文本自动形式化为结构化命题证据，并用 SMT 求解器 Z3 结合临床知识库判定每条诊断结论是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七款 VLM，该验证器揭示出传统指标无法发现的保守观察与随机幻觉等推理失败模式，并在有标注数据集上系统性消除无依据幻觉，提升诊断可靠性与精确率。
来源：arXiv cs.AI · arxiv.org