OpenAI与Anthropic联名发声：防止人工智能被用于制造生物武器

谷歌DeepMind的德米斯·哈萨比斯、OpenAI的萨姆·阿尔特曼、Anthropic的达里奥·阿莫代伊、微软AI的穆斯塔法·苏莱曼等数十位AI领袖、生物安全专家及基因合成企业高管，共同签署一封公开信，呼吁政府出台法律，强制所有销售人工合成DNA和RNA的公司对客户身份及订购的基因序列进行筛查，以防范生物技术被恶意利用。该倡议由无党派组织‘进步研究所’和右翼智库‘美国创新基金会’牵头。信中指出，随着AI技术飞速发展，过去阻止不法分子获取生物武器所需的专业知识门槛正在快速降低。早在1950年代，科学家阿瑟·科恩伯格首次成功人工合成DNA；如今，全球数十家公司已能用自动化设备‘打印’定制基因序列，广泛用于科研、药物研发和疾病诊断。虽然许多供应商只向高校、科研院所和正规生物企业供货，但并非所有公司都严格审核客户资质或检查所订基因序列的安全性。2017年，加拿大研究人员仅花10万美元网购DNA，就成功复活了已灭绝的马痘病毒——而马痘与致命的天花病毒高度相似，引发学界对‘DIY天花’风险的严重担忧。此后，基因合成成本持续下降，加上AI大模型（尤其是具备生物学能力的语言模型）的突破，普通人甚至无需深厚生物学背景，就可能借助AI设计出新型毒素或致病微生物。尽管生物恐怖袭击迄今罕见，但一旦发生，极易造成大规模伤亡、社会恐慌和经济损失；更令人忧虑的是，AI设计的病原体可能意外或蓄意引发全球大流行。斯坦福大学微生物学家兼生物安全专家戴维·雷尔曼指出，当前AI工具不仅能帮用户快速找到规避筛查的订购渠道，还能指导用户修改序列写法，让即使在筛查机制下也难以识别其真实意图。签署者还包括Twist Bioscience和Ansa Biotechnologies等基因合成企业的高管——这两家公司是2009年成立的‘国际基因合成联盟’成员，该联盟长期推行自愿筛查标准，目前多数企业已采用软件自动识别‘高风险序列’（如增强毒性或致病能力的基因片段）。Twist公司政策与生物安全部副总裁詹姆斯·迪甘斯强调：‘掌握DNA合成技术，就必须承担相应责任——既要清楚自己在制造什么，也要清楚把东西交给谁。’该公司多年来一直支持建立正式监管规则。拜登政府已出台联邦指南，要求接受联邦资助的科研人员和机构，必须向实施筛查的供应商采购合成基因；今年早些时候，参议院还提出一项两党支持的法案，拟将筛查义务扩大至全美所有基因合成服务商。但现实挑战在于：筛查技术本身并不完美。微软研究人员去年发现，现有AI蛋白质设计工具能生成具有潜在危险性的新基因序列，这些序列结构类似已知致命蛋白，却成功绕过了多家公司的筛查软件。前Y Combinator总裁、Safe AI Fund合伙人杰夫·拉尔斯顿主张：开发生物学相关AI模型的实验室，应自行对用户提问内容进行安全审查——‘绝不应允许用户轻易通过AI模型获得即刻危害生命的信息。’雷尔曼则补充道，仅靠订单筛查远远不够；由于筛查存在漏检可能，必须构建多重防线，其中AI企业责无旁贷，需主动参与风险管控。