拿一张皮肤病灶照片问 AI，答案后面再配一段听起来专业的解释，你会不会更相信它？MIT 等机构的研究发现，AI 辅助总体上提高了非专业用户和临床医生诊断皮肤病的准确率，但两类人受益的方式并不相同。非专业用户的提升很大程度上来自服从 AI；即使大语言模型（LLM）给出的解释是错的，他们也容易相信，甚至觉得含糊、宽泛的说法更有说服力。
临床医生则更能识别错误建议，没有被错误的 AI 辅助带偏；他们在只看到模型预测、不附解释时表现最好。这里暴露的是“自动化偏误”——系统看似权威，人便不愿推翻它。可解释 AI 原本想用文字理由、热图等方式帮助用户校验判断，但解释也可能制造不恰当的信任。研究提醒，医疗 AI 不能只看模型的平均准确率，还要看不同用户拿到建议后如何判断；同一套解释，可能帮助专家，却让外行更放心地接受错误答案。