arXiv cs.AI· Xiaoyang Wang, Tianrui Wang, Christopher C. Yang·· 9 小时前AI 评分29
ProbeGuard：基于医疗 LLM 共识形成过程的认证弃答框架
Unanimously Wrong: Certified Abstention from How Medical LLM Consensus Forms
AI 导读
ProbeGuard 是一个认证弃答框架，通过追踪共识形成过程而非仅看最终一致性来判断医疗 LLM 是否应弃答。在 MedQA 上，13.4% 的一致投票是错误的，过程信号将正确与错误共识的区分度从随机水平提升至 0.696 AUROC。该认证规则能以 9.0% 的观测选择性风险回答六成一致层问题，积累域内校准数据后可覆盖九成。
来源：arXiv cs.AI · arxiv.org