医疗AI面临“测不准”难题

循证医学依赖于可靠的标准来衡量新药或医疗器械的有效性，但这一前提在人工智能医疗工具快速进入临床实践的今天正变得越来越脆弱。《自然》杂志同期发表的两篇论文（Ferber等和Liévin等）一方面展示了当前医疗AI已具备出色的诊断与决策能力，另一方面也揭示了一个关键问题：我们尚未建立起科学、透明、可重复的评估体系来真正理解这些AI工具‘为什么有效’‘在什么条件下有效’‘失效时会怎样’。例如，不同研究使用的测试数据、评价指标甚至临床场景差异很大，导致结果难以比较；AI的‘黑箱’特性也让医生难以判断其推理逻辑是否合理。这种评估困境不仅影响监管审批和临床采纳，更可能埋下医疗安全风险。因此，亟需跨学科合作，建立面向真实世界临床需求的标准化验证框架，让AI真正成为医生可信的助手，而非不可控的‘智能幻觉’。