医疗AI工具带来的隐私风险并不均等

本文报道了一项发表于《自然》期刊的重要研究，揭示了当前人工智能（AI）医疗应用中一个被长期忽视的风险。过去，医疗AI的发展建立在一个关键假设之上：经过脱敏处理（如去除姓名、身份证号等）的患者数据，即使被用来训练AI模型，也不会让模型使用者反推出原始数据中特定个人的隐私信息。这种‘隐含约定’支撑着公众对医疗AI的信任——患者让渡部分数据使用权，换取未来更精准的诊疗服务。然而，Knolle等人通过实验表明，在当今强大的机器学习模型（尤其是深度学习模型）面前，这一假设往往不成立：研究人员已能通过模型本身或其输出，成功重建或识别出参与训练的个别患者的敏感健康信息。这意味着，仅靠传统脱敏手段已不足以保障患者隐私，亟需开发新的隐私保护技术（如差分隐私、联邦学习等）并更新相关监管政策。该发现对医疗数据治理、AI伦理及患者知情同意机制都提出了全新挑战。