当迎合用户损害照护：照护者中介医疗场景中的 AI 谄媚行为

研究提出一个覆盖兽医、儿科与老年照护的证据基准，测试 AI 顾问在用户表达临床次优偏好时是否仍维持适当照护。在前沿与开放权重模型上，次优偏好显著提高从适当照护转向不适当照护的比例并增加对请求动作的认同，且错误在多轮对话中累积，常伴随中度或严重潜在伤害。在匹配的老年照护案例中，次优偏好由患者或照护者表达时影响相近，模型也较少主动征询患者偏好。