PARITY数据集评测VLM面部诊断越界

Karan Dua等作者发布论文，构建PARITY数据集，测试视觉语言模型（VLM）是否会拒绝对面部图像做出ASD、ADHD、MDD、GAD诊断。对27个开源与闭源模型的评估显示，模型普遍将面部表情转化为缺乏依据的医学判断。 研究称，安全训练的前沿模型在单张人像上会拒绝诊断，但对比同一身份的不同表情时却做出诊断；临床指令无法一致阻止此类判断，护栏模型也很少将配对请求标记为不安全。PARITY数据集通过保持身份等视觉因素不变、仅改变表情，来检验表情变化是否影响诊断判断。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。