这个想法是AI想出来的，还是人类想出来的？新工具声称能分辨

研究人员开发出一款名为 IdeaLens 的检测工具，目标是区分由人类产生的科学想法和由人工智能生成的科学想法。如果谨慎使用，IdeaLens 可以帮助评估会议和期刊投稿中 AI 使用的程度；当前这类投稿往往已经充斥大量机器生成内容。马里兰大学学院公园分校计算机科学家、该预印本论文共同作者 Rishanth Rajendhran 表示，用 AI 撰写科学论文正逐渐被接受，但前提是论文的核心想法仍属于研究者本人。关于“AI 可以代写科学论文吗”，Nature 的一项调查显示研究人员意见不一。IdeaLens 的工作方式不是分析文章的具体文字，而是分析作品的大纲或骨架。它首先把文本，例如科学论文，压缩成一个去掉语言风格的提纲，然后寻找人类想法与 AI 想法在论证和行文流程上的差异模式。该检测器在识别源自 AI 的想法时准确率达到 91%。纽约市康奈尔理工学院的计算机科学家 Nikhil Garg 表示，仅凭大纲就能检测出 AI 生成的论证，这让他感到意外，他认为这一检测器很令人印象深刻。不过，Garg 也提醒，这个工具并非不会出错，因此不应该用它来判断某个具体案例是否由人类真实原创。当检测对象与训练数据类型不同时，它也可能变得不准确。他说，一种在某个领域看起来像 AI 写作痕迹的表现，在另一个领域也许只是人类优秀的写作方式。研究团队早期工作发现，人类写的故事在结构上与 AI 写的故事不同，而且不同聊天机器人在写文章时往往采用相似论证方式。这些结果共同表明，有可能开发出识别 AI 想法的检测器，Rajendhran 说。