如何防止人工智能伤害数学

我们所认识的科学研究正受到人工智能快速发展的威胁。生成式AI助推低质量论文投稿增加，这些论文是在聊天机器人帮助下写成的。科技公司掌握最强大的模型。随着面向科学的AI投资加速，用不了多久，科技公司就可能实质上左右研究者提出的问题。
为什么数学有望被AI彻底改变
数学受影响尤其明显，因为这门学科位于AI系统的核心。许多数学研究者的工作也牵涉伦理领域。AI模型可以被用于战争或大规模监控，也可能助长政治动荡。AI的使用还因为系统对能源和用水的需求而影响环境。这就是作者与15位同事撰写《莱顿人工智能与数学宣言》的原因。宣言呼吁所有数学家，无论是个人还是共同体，确保AI进入数学领域带来益处，而不是造成不可逆转的伤害。AI应当加快研究流程，或帮助研究者获得洞见；它不应抹除专业能力、撕裂学术共同体，也不应削弱教育体系。宣言于6月2日公布。此后，它已获得约3000名科学家联署，其中大多数是研究数学家，并引起数学组织和媒体关注。即便如此，我认为许多共同体成员仍没有真正认识到紧迫性。获得2006年菲尔兹奖的数学家陶哲轩在支持宣言时表示，学术共同体早几年前就应该开始讨论AI的影响。其他人也有类似看法。宣言源于2025年9月在荷兰莱顿举行的一场研讨会，约60位数学家、计算机科学家、历史学家、哲学家和社会科学工作者相聚一堂，讨论数学研究的机械化。尽管对AI可能给这门学科带来什么有不同观点和预测，所有参与者一致认为必须立即采取行动。作者是16名代表小组成员之一，曾为学科发展方向进行谋划。
AI正在如何重塑数学和物理学中的发现
宣言识别出数学的核心价值：透明、科学诚信，以及把新研究置于已有文献中、正确承认前人工作。它提出以才德为基础的标准：能否在数学中学习和工作，应取决于技能，而不是任何形式的特权。宣言还强调自主：作为共同体，数学家应当在学科发展方向上拥有较大话语权。该文件要求数学家确保自己的工作正确，遵守开放科学原则，并提供足够信息，使手稿能被充分审阅。他们应坚持人类作者身份，并披露AI使用情况。同时，他们应在选择使用哪些工具、是否与产业界合作等问题上作出知情的伦理判断。