避开科学图片中AI生成错误的三个小技巧

2024年初，一篇正式发表论文中的插图在社交媒体引发争议：图中一只大鼠的阴茎和睾丸尺寸大得不合常理，甚至出现四个睾丸，还带有拼写错误的奇怪文字。作者随后说明该图由AI工具Midjourney生成。这一事件被认为是第一起AI生成图像进入主流科学论文的明显案例，本不应发表。科学诚信顾问Elisabeth Bik当时指出，彼时AI绘图还不足以可靠地根据用户提示生成可信的科学插图；但两年后，AI能力大幅提升，假图与真图已越来越难区分。 然而错误仍在发生。四月，《新英格兰医学杂志》撤回一项中国团队研究，原因是图像被操纵。图中卷尺刻度数字有误，暴露出AI工具的使用。作者在PubPeer讨论区回应称，因为急救时卷尺放置不当，他们使用AI工具调整了位置，不规则编号只是这一调整产生的意外伪影。 插图、示意图、数据图等图像是科学出版的重要组成部分，会显著影响论文的传播和影响力。一项针对数百万科学论文图形的分析显示，高影响力论文往往更多使用图示。但许多研究者缺乏资源或设计技能，难以自行制作美观且信息丰富的图像。哥本哈根大学学者Sebastian Porsdam Mann认为，现代AI系统帮助研究者生成科学图形的潜力很大：AI工具可以降低科学插图门槛，让研究者用更少时间、更低成本更好地表达科学内容，也能帮助写出解释复杂主题、数据可视化良好的论文。但正如AI文本仍会出错，Midjourney、DALL-E等AI图像工具也会出错，后果可能从个人尴尬到职业惩戒不等。研究者目前若被怀疑不当使用AI，期刊通常会严肃处理。 文章给出几条建议。第一，先查目标期刊政策。各出版社对AI使用的规则并不一致。PLOS允许使用AI工具，但作者必须披露使用方式，包括工具名称、具体用途、输出如何评估以及用在论文哪些部分。Cell Press旗下《细胞报告》禁止使用AI生成的图形摘要，并限制在数据可视化中使用AI。Springer Nature禁止将生成式AI用于图像，除非论文本身专门讨论AI，且此类情况会逐案审查；其政策也允许使用基于特定可核查科学数据开发的AI图像生成工具，前提是遵守伦理、版权和使用条款。需要说明的是，《自然》的编辑部与其出版社相互独立。Mann指出，期刊关于AI的指引通常不够具体，人们容易把AI生成图像等同于艺术或说明插图，但科学图形还包括示意图、视觉摘要、数据图和作为证据的图像，这些场景的伦理风险不同。 第二，不要操纵原始数据。明尼苏达大学生物学家Mikael Elias曾在X上发布一组看起来很可信的蛋白质印迹图。蛋白质印迹用于在凝胶分离复杂混合物后检测特定蛋白，但这些图像只靠向ChatGPT输入一句提示就能生成：请生成代表自然期刊文章实验的蛋白质印迹图。Elias指出，编造数据一直存在，但AI使这种造假变得前所未有地容易；他担心很快会出现大量难以与正规研究区分的伪造图像。Bik也认为，即使AI生成的蛋白质印迹图存在一些破绽，也可能很容易被忽略；她还表示，很难设想哪种情况下可以用AI生成图像作为原始证据。