医生和AI联手看病,出了问题谁负责?

作者: aeks | 发布时间: 2026-07-28 20:03 | 更新时间: 2026-07-28 20:03

学科分类: 临床医学 公共管理 法学 生物医学工程

人工智能正在加速融入临床医疗场景,但其广泛应用也带来了患者安全的新隐患和责任认定的模糊地带。传统医疗责任体系清晰:医生须提供达标诊疗,机构须保障流程安全,厂商须确保设备无缺陷,监管方负责监督,法院判定损害责任。然而,新一代医疗AI正打破这一边界——从当前辅助型工具(如脓毒症预警)逐步发展为能独立诊断、制定治疗方案甚至管理患者的高阶系统。这类系统多采用‘黑箱’深度学习技术,其决策逻辑难以追溯,导致缺陷难识别、人机联合决策时责任难划分,现有医疗责任法律框架无法覆盖这种交叉情形。由此可能产生‘责任真空’:受害者难以追责,医院因惧怕法律风险而回避有用AI,厂商也可能推卸上市后安全监测义务。为此,文章提出基于三大核心属性的七级能力分级框架:一是自主性(系统独立推理能力),如脓毒症模型属低自主,而深度学习诊断系统可跨数千变量推理,医生无法复现;二是自动化(系统独立执行任务的能力),如从外科医生遥控的机器人到自动向药房发送化疗处方的系统;三是运行范围(系统被允许发挥作用的临床场景),例如眼科专科使用视网膜影像AI复核诊断,远比基层诊所用同一工具自主决定是否转诊更安全。七级框架具体包括:0级(信息型,仅存储展示数据)、1级(辅助型,如心电异常标记)、2级(决策支持型,整合多源数据生成诊疗建议,但需医生最终拍板)、3级(监督式自动化,系统主导决策,医生仅设限与应急干预,如智能胰岛素泵)、4级(AI触发人工监护,系统全程管理重症治疗并自动启动应急响应,医生仅作最后兜底)。该分级有助于监管机构明确审批要求、医疗机构落实培训与知情同意、法院合理判定过失,并促使厂商承担持续安全责任。文中强调,必须避免医生在时间压力下盲目依赖AI建议,也需警惕将控制权让渡给科技巨头——唯有建立清晰、分层、可操作的责任体系,医疗AI才能真正造福患者。

DOI: 10.1038/d41586-026-02315-9

标签: AI分级 医疗人工智能 患者安全 责任框架 黑箱算法