医疗AI带来的隐私风险各不相同

本文系统评估了医疗人工智能（AI）模型对患者个人隐私的实际威胁，重点研究了一种名为“成员推断攻击”（Membership Inference Attack, MIA）的隐私攻击方式。这类攻击不需接触原始训练数据或模型参数，只需向已部署的AI模型提交一次查询（例如一张胸部X光片），观察其输出概率，即可高精度判断该患者的医疗数据是否参与了模型训练。研究团队使用7个真实临床大数据集（涵盖医学影像、心电图和电子病历等），对多种主流医疗AI模型进行了大规模测试。结果表明：第一，传统评估方法（将所有数据记录混在一起计算平均攻击成功率）严重低估了真实风险——它掩盖了极端情况：少数患者遭受近乎100%的攻击成功率，而多数患者则基本不受影响；第二，模型能力越强（如参数量更大、结构更复杂），高风险患者数量呈数量级增长；第三，医疗数据中占比小的群体（如黑人患者、使用医疗补助保险者、癌症患者、乳腺密度特殊者等）反而更容易被精准识别，其隐私风险显著高于主流群体。这揭示了一个关键矛盾：当前追求更高诊断准确率的AI研发趋势，可能无意中加剧医疗健康不平等——弱势群体不仅诊断效果可能更差，其隐私也更易被侵犯。研究还验证了差分隐私（Differential Privacy）等数学可证明的防护技术的有效性，但指出必须在“患者级”而非“单条记录级”实施才能真正保护所有人。最后，文章呼吁医疗AI的评估标准必须从“整体平均”转向“个体风险”，并建议对高风险模型强制采用可验证的隐私保护措施或严格访问控制。