在数字化浪潮席卷医疗领域的今天，人工智能（AI）正以前所未有的速度渗透到医学诊断和教育的各个环节。从辅助影像判读到提供鉴别诊断建议，AI工具被寄予厚望，有望成为医学生和年轻医生的“超级辅导员”。然而，在这幅看似完美的图景背后，一个潜在的风险阴影正逐渐浮现：如果AI给出的解释是错误的，甚至是“一本正经地胡说八道”，那些仍在积累知识、建立临床思维的新手学习者，会受到怎样的影响？他们能识别AI的“谎言”吗？正确的AI指导又能多大程度地提升他们的学习效果？这不仅是技术可靠性的问题，更关乎未来医生培养的质量与患者安全的核心。
为了探寻这些问题的答案，一项聚焦于AI生成信息对新手医学生影响的研究在《npj Digital Medicine》上发表。研究团队敏锐地捕捉到了当前AI医学教育应用中的一个关键矛盾：尽管AI能够提供看似合理的解释，但其内部“黑箱”特性与可能存在的“幻觉”（即生成虚假但看似合理的信息）风险，对于辨别力尚不成熟的医学生而言，可能构成特殊挑战。研究者们质疑，对于这个群体，正确AI解释带来的益处，是否真能抵销误导性信息所带来的风险？他们开展了一项精心设计的随机对照试验，旨在实证检验不同性质的AI解释（正确 vs. 误导）对新手医学生诊断准确性及其信心校准（即对自己判断的确信程度是否能准确反映其判断的正确性）的差异化影响。
该研究招募了111名医学生作为参与者，将他们随机分配到不同组别，包括接受正确AI解释的组、接受误导性AI解释的组以及不接受任何解释的对照组。研究核心在于比较不同组别在诊断任务上的表现差异，并分析参与者的信心水平是否与其答案正确性相匹配。
本研究的主要技术方法包括：1）采用随机对照试验（RCT）设计，将111名医学生受试者随机分组，以比较干预效果；2）使用特定的AI模型生成与诊断案例相匹配的“正确”与“误导性”解释文本作为干预材料；3）通过标准化的临床诊断案例测试，评估参与者的诊断准确性；4）利用信心评分量表，测量参与者对自身诊断的确信程度，并分析其与诊断准确性的关联，以评估信心校准情况。
研究结果
误导性AI解释显著降低诊断准确性
研究发现，与不接受任何AI解释的对照组相比，接收到误导性AI解释的医学生，其诊断准确性出现了统计学上的显著下降。这意味着，当AI提供错误但看似合理的推理时，它会实质性地将学习者引向歧途，损害其独立做出正确临床判断的能力。
正确AI解释未能带来显著提升
一个更为微妙且令人深思的发现是，接收到正确AI解释的组别，其诊断准确性相比对照组并未显示出显著提高。这表明，对于新手学习者而言，即便是正确的AI辅助解释，其教学强化效果也可能有限，或者其益处被其他因素（如对AI的过度依赖或浅层加工）所抵消。
信心校准在误导信息下失效
在信心校准的分析中，研究显示，接收到误导性解释的参与者，其信心水平无法可靠地区分回答的正确与错误。换句话说，即便给出了错误答案，他们也可能表现得相当自信；反之，在给出正确答案时，信心也可能不足。这种信心与能力的脱节，揭示了误导性AI信息不仅导致错误，还可能扭曲学习者对自身知识状态的元认知评估，使其无法准确感知自己的不足，这是深度学习中的重大隐患。
讨论与结论
这项研究提供了至关重要的实证证据，揭示了在医学教育这一特定领域，AI应用的“风险收益比”存在严重不对称性。研究结论明确指出，对于新手医学生群体，AI生成的错误信息所造成的危害，其强度和稳健性超过了正确AI指导所能带来的益处 。这种不对称性构成了AI融入医学教育的一个基础性安全挑战。
该发现具有深远的意义。它强烈提示，简单地部署AI作为知识输出工具，尤其是对于那些尚未建立稳固临床思维和批判能力的学习者，存在显著风险。研究团队因此呼吁，医学教育领域的战略重点需要进行根本性转向：从侧重于利用AI提供答案，转向致力于培养学习者对AI输出的批判性评估技能 。这包括教导学生质疑AI推理的逻辑、验证其与已知知识的一致性，并理解AI模型的局限性。只有当未来的医生们具备了对AI辅助工具的“免疫力”和审辨能力，AI才能真正安全、有效地赋能医学教育与临床实践，而非成为潜在的错误放大器。该试验已在中国临床试验注册中心 （Chinese Clinical Trial Registry, ChiCTR）注册，注册号为ChiCTR2500111932。
打赏
