人工智能（Artificial Intelligence, AI）在医疗领域的深度融合正在重塑医疗服务、临床决策及医学科研与教育模式。然而，基于持续学习与迭代更新的自主演化特性，对传统静态医疗器械监管框架构成根本性挑战。本共识由超过40家中国顶尖医学与科研机构联合制定，汇聚医学、医院管理、医学信息学、卫生政策、法学及医学伦理等领域专家，结合国内外最新法规与实践经验，系统构建了覆盖医疗机构AI应用全生命周期的综合治理指南，聚焦准入评估、临床应用、患者权利保护、数据治理、风险管理及能力提升六大主题支柱。针对各领域，共识详细阐述了医疗机构在AI实施与管理中需考量的关键因素，包括分级准入、多学科评审、真实世界验证、竞争性算法交叉验证、人机协作责任划分、分层知情同意、算法可追溯性与可解释性、动态风险监测与熔断机制，以及渐进式AI能力培训体系。本共识旨在为医疗机构AI应用建立以安全、有效、公平及可解释性为核心的合规基准与发展方向，确保技术演进始终处于法律与伦理健全框架内，最终促进优质医疗资源公平可及，实现国民健康水平的实质性提升。
《Intelligent Medicine》论文解读：医疗机构人工智能应用与治理专家共识（2026）
研究背景与必要性
2025年1月，DeepSeek R1作为具备全球竞争力的大语言模型（Large Language Model, LLM）发布，其强大数据处理能力在医疗领域展现出广泛应用潜力。为满足严格的数据安全与隐私保护要求，中国已有超过400家医疗机构在两个月内完成本地化部署，覆盖从顶级三甲医院到基层医疗机构的广泛场景。同年11月，国家卫生健康委等四部门联合印发《“人工智能+医疗健康”应用发展实施意见》，推进八大领域24项重点任务，标志着中国AI医疗进入规模化落地阶段。然而，2025年6月首例生成式AI模型幻觉引发的知识产权纠纷引发行业广泛关注，凸显AI在医疗应用中面临的算法黑箱、责任归属、数据安全及伦理挑战。在此背景下，由北京卫生法学会大数据与互联网人工智能医疗委员会与中国生物医学工程学会医学人工智能分会法律伦理专家组牵头，联合40余家机构专家制定本共识，旨在为医疗机构AI应用提供科学规范的治理框架。
关键技术方法
研究人员采用多学科专家共识制定方法，整合临床医学、医院管理、医学信息学、卫生政策、法学及伦理学等多领域视角，依据中国《人工智能医用软件产品分类界定指导原则》《人工智能医疗器械注册审查指导原则》等法规文件，结合国际最佳实践，通过系统性文献分析与多轮专家论证形成共识意见。研究未涉及具体实验操作，而是基于政策分析与专家实践经验，构建覆盖AI全生命周期的治理体系。
研究结果
1. 准入评估：建立多学科联合评估机制
• 分类管理与分级准入 ：依据数据处理类型与预期用途，将AI系统分为医疗器械类与非医疗技术服务类，并按临床决策影响程度划分为低、中、高风险三级。低风险AI（如医院管理、智能导诊）需通过数据安全、系统稳定性及伦理合规三方基础审查；中高风险AI（如辅助诊断、治疗规划）需在取得医疗器械注册证基础上，额外开展技术效能验证与临床适用性评估。
• 多学科联合评审原则 ：成立由临床专家、医工部门、信息中心、法律顾问及伦理委员组成的“AI产品准入联合评估小组”，实行一票否决制，每6个月对已准入产品进行动态再评估。
• 真实世界验证 ：AI产品正式上线前需在非核心临床场景或模拟环境中进行小规模测试，上线后开展至少6个月的真实世界研究（Real-World Study, RWS），覆盖多科室、疾病类型及操作人员，重点评估敏感性、特异性及人机协作效率。
• 技术依赖与排他性缓解 ：鼓励在同一临床场景中引入竞争性算法进行交叉验证，避免单一算法垄断，要求供应商披露接口与模型参数规范，明确数据所有权归属医疗机构。
2. 临床应用：坚持“人机协作、以人为本”原则
• 明确辅助定位 ：AI法律属性为辅助诊断工具，医师保留最终诊疗决策权，禁止将AI生成内容直接作为最终诊断结论，全自动AI系统需人工监督方可执行高风险操作。
• 强化审查义务 ：医务人员对AI辅助结果负有合理注意与审查义务，高风险场景（如肿瘤标志物预警、影像识别）需实施双人审核机制，系统需记录医师修改或否决AI判断的操作日志。
• 严格拟人化AI服务边界 ：拟人化AI（如智能分诊、心理陪伴）需显著标注“AI生成”，限制对未成年人及精神障碍患者的干预深度，建立透明披露机制与紧急关键词升级流程。
3. 患者权利保护：知情同意与解释权
• 分层知情同意 ：按风险等级实施差异化告知，低风险AI采用界面弹窗提示，中风险AI通过入院须知或门诊手册披露，高风险AI（如手术规划、侵入式机器人）需签署专项书面知情同意书，明确替代方案与患者拒绝权。
• 算法可解释性响应 ：当患者对AI主导的诊断结果提出异议时，医疗机构需提供热力图、特征向量权重等可视化证据，并由医师转化为通俗语言解释，相关材料需存档备查。
4. 数据治理：隐私保护与价值归属
• 数据本地化与不流出原则 ：建立本地化部署或私有云基础设施，禁止直接向第三方公有云大模型上传患者原始数据，跨境数据共享需通过伦理审查与安全评估。
• 交互数据利用规范 ：利用患者与AI交互产生的衍生健康数据训练模型前需获得明确同意，禁止未经授权留存数据用于商业模型训练。
5. 风险管理：全生命周期监测与责任分配
• 不良事件报告 ：将AI相关不良事件纳入医疗机构现有医疗安全报告系统，涵盖逻辑错误、幻觉现象及诊疗流程异常，无论是否造成实际伤害均需上报。
• 熔断机制 ：当出现持续严重系统错误、厂商召回通知、算法漂移或数据泄露时，立即启动熔断并切换至人工流程，AI系统重新认证后方可恢复使用。
• 责任分担与追偿机制 ：医疗机构需证明已履行准入审查义务且医务人员严格遵守操作规程，若损害源于算法设计缺陷，医疗机构在向患者赔偿后可向厂商行使追偿权，建议购买覆盖AI风险的医疗责任保险。
6. 人才与文化：能力提升
• 缓解技术依赖 ：住院医师规范化培训中保留脱离AI的传统诊疗技能考核，定期开展人机对抗模拟训练。
• 评估与权限管理机制 ：将AI工具熟练度纳入医务人员培训考核体系，未取得专项培训合格者不得操作高风险AI系统。
• 保留医学人文内核 ：所有AI辅助场景需预留医患直接互动的时间与空间，禁止以智能化名义缩短面诊时长，鼓励设立“无AI临床日”重温视触叩听基本功。
讨论与结论
医学的本质是人学，AI应作为医师的“外脑”与助手而非替代者。本共识通过制度化设计将AI限制在合规框架内，确保其始终服务于人类健康福祉。共识提出的六大支柱治理体系为中国医疗机构AI应用提供了兼具安全性、有效性、公平性与可解释性的实践路径，对推动优质医疗资源下沉、提升国家整体健康水平具有重要指导意义。研究人员强调，未来需持续关注算法迭代带来的监管适应性调整，并通过动态更新共识保持治理框架的前瞻性。
打赏
