arXiv cs.CL· Krithik Vishwanath, Brandon Ye, Anton Alyakin, John E. Markert, Aaron Hsieh, Micha{\l} Ma\'nkowski, Eric K. Oermann·· 9 小时前AI 评分39
LLM 会把闲聊和背景语音写进病历，干扰临床推理
Incidental information contaminates patient notes and disrupts clinical reasoning in large language models
AI 导读
研究测试了 LLM 对患者就诊无关信息的敏感性：在 576 段医患对话中，前沿模型把闲聊写进 35% 的病历，3.7% 的病例中模型误用或误归属这些题外话。在 57 段模拟录音中，-10 dB 的另一场就诊背景语音泄漏进 48.2% 的转录文本，四个开源权重模型生成的病历有 5.3% 被检出污染。作者提出临床推理与干扰的双重编码假说，建议临床使用前评估模型对无关信息的抵抗力。
来源：arXiv cs.CL · arxiv.org