AI帮科学家“揪出”几十年前的科研错误

一款人工智能事实核查工具发现，一个化学参考数据库中列出的分子沸点存在错误（图片：Monty Rakusen/Getty）。几十年来，化学家一直依赖手册中的分子沸点值来识别物质并规划蒸馏等流程。但浙江实验室理论化学家塞巴斯蒂安·皮奥斯在使用AI模型预测分子沸点时，发现模型给出的数值与一个有75年历史的参考数据库中的长期记录不一致。起初他以为模型错了，但核对原始文献后发现，错的是数据库，而不是AI模型。在其他两个案例中，皮奥斯的AI模型还发现了旧论文和参考书中的错误：一个来自论文中的笔误，另一个来自一百年前沸点测量值的不准确记录。皮奥斯说，这两个错误很可能给使用数据库的研究人员带来了很多麻烦。越来越多科学家开始把AI当作核查科学知识、审计数据库和论文的工具。在AI、同行评审和科学研究人工活动方面，7月22日，特拉华州营利性研究评审机构SAI Labs发布在线分析：研究团队用AI智能体评估168篇被选入2026年国际机器学习会议口头报告的论文。这些智能体提取作者的核心主张，下载配套资料，在可行时重跑实验，并将结果与论文报告比较。在至少含有5个可评估主张的92篇论文中，只有34篇论文复现了超过2个核心主张；只有8篇论文复现了超过80%的主张。挪威科技大学计算机科学学者奥德·埃里克·贡德森提醒，这类AI事实核查工具仍不能可靠地充当科学知识的裁判，因为它们“会像人一样犯错”，所以AI核查结果必须经过人工监督。斯坦福大学计算机科学学者詹姆斯·邹表示，许多研究者已经投入时间发现论文错误并使用工具检查论文某些方面，但AI的优势在于扫描科学数据库和文献的速度，能以过去无法达到的规模完成任务。邹和同事在预印本服务器arXiv发布研究中，用“AI检查器”扫描NeurIPS（知名年度人工智能研究会议）论文中的错误，发现论文错误数从2021年的3.8升至2025年的5.9，增长55%。邹说，这些论文已经发表，往往被视为下一代研究的基础知识；如果基础中存在错误，就会不断扩散，让后续研究更不稳固。该分析只聚焦公式、计算和图表等客观错误，排除数据解释和新颖性等主观判断。旧金山机器学习公司Together AI的论文合著者费德里科·比安奇说，这是有意设计：AI不应做所有事情，关于新颖性和重要性的选择应留给人。