人工智能将取代核武器条约？你害怕了吗？

“需要明确的是，这是B计划。”美国科学家联合会副主任马特·科orda在接受《连线》杂志采访时表示。科orda在该联合会撰写了一份报告，勾勒出在所有旧条约都已失效的世界中，军备控制的可能未来。在《无核查员的核查》报告中，科orda与合著者伊戈尔·莫里奇描述了一种监测全球核武器的新方法，他们称之为“合作技术手段”。简而言之，卫星和其他遥感技术将承担科学家和核查员曾经在地面上的工作。
科orda表示，人工智能可以为这一过程提供帮助。“人工智能擅长的是模式识别，”他说，“理论上，如果你有足够大且精心整理的数据集，就可以训练出一个模型，它不仅能识别特定地点的细微变化，还可能识别单个武器系统。”
《新削减战略武器条约》是奥巴马时期签订的一项条约，限制美国和俄罗斯部署的核武器数量，该条约于上周（2月5日）到期。（不过别担心，据报道两国目前仍计划维持现状。）美俄两国都在花费数十亿美元研发新型核武器。中国正在建造新的洲际弹道导弹发射井。随着美国逐渐退出世界舞台，其核保障承诺的意义减弱，韩国等国家也开始考虑发展核武器。国家间的信任处于历史最低水平。
在这种环境下，科orda和莫里奇的提议是利用现有基础设施来谈判和执行新条约。科orda说，没有国家愿意“让现场核查员在其领土上四处活动”。因此，若无法进行现场核查，全球核大国可以利用卫星和其他远程传感器对全球核武器进行远程监测。然后，人工智能和机器学习系统会对这些数据进行分类，并提交给人类审核。
这是一个不完美的提议，但总比目前世界上完全没有任何控制措施要好。
几十年来，美国和俄罗斯一直致力于减少全球核武器数量。1985年全球有6万多枚核武器，如今已降至1.2万多枚。削减约5万枚核武器耗费了政客、外交官和科学家数十年的不懈努力。《新削减战略武器条约》的失效意味着这些数十年努力的成果被否定。这些现场核查促进了俄美之间的信任，为冷战期间缓解紧张局势奠定了基础。那个时代已经结束，取而代之的是充满敌意和核军备竞赛重启的时代。
“我们在这篇论文中的想法是，如果在无军备控制仅靠间谍活动与带有侵入性现场核查的军备控制（后者可能已不再具有政治可行性）之间找到某种中间地带会怎样？”科orda说，“如果各国相互合作以建立远程核查机制，我们能通过远程方式做些什么？”
科orda和莫里奇的提议是利用现有的卫星网络来监测洲际弹道导弹发射井、机动火箭发射器和钚弹芯生产设施。一大障碍是，要有效实施远程执行的条约机制，需要一定程度的合作。核大国仍需同意参与其中。
“他们可以发送信息：‘为了核查这项军备控制条约，请在这天的这个特定时间打开X号发射井舱门，因为届时我们的卫星将飞临上空。’”科orda说，“这样就能利用现有技术进行相互核查。不需要任何人到现场，也不需要进行持续的间谍式监视——那种寄希望于偶然瞥见某些东西的方式。相反，各方是通过合作来进行相互核查。”
由人类验证的人工智能系统可以全程监督这一过程。当然，这其中存在很多问题。其一，高性能的人工智能系统需要大量数据集才能很好地完成训练任务，而核武器相关的训练数据并不多。“你必须为每个国家构建定制化数据集，”科orda说，“比如，俄罗斯是这样建造洲际弹道导弹发射井的，美国是那样建造的，诸如此类。但即使在同一个国家内部，也可能存在差异。”
忧思科学家联盟的萨拉·阿勒赛义德在一项即将发表的关于将人工智能系统用于军备控制核查的研究中，就构建了这样一个数据集。她的研究重点是导弹，但她说，一个假设的人工智能核监测系统还需要追踪更多数据。“你可以想到各种各样的东西，比如导弹、发射器、轰炸机、潜艇、它们的生产设施、测试、储存、维护和拆除情况，包括这些场所存在的所有物体。”她告诉《连线》杂志，“所以你真的需要考虑所有物体的精细层面。”
然后还有一个问题：这些人工智能系统到底要做什么？“任务是什么？”阿勒赛义德说，“是检测物体的存在与否？对所见物体进行分类？还是识别和追踪随时间的变化？”
在一个假设的由人工智能和遥感技术取代现场核查的世界里，同意新条约机制的各方需要就人工智能的运作方式和追踪内容达成一致。这意味着在各国甚至不愿遵守旧协议的当下，需要新一轮的谈判和新的协议。
阿勒赛义德表示，如果我们到了各国开始就人工智能军备控制的具体细节进行谈判的地步，那么世界已经陷入困境。“为什么要依赖基于人工智能的核查机制？”她说，“如果你认为自动化是必要的，那么你就陷入了这样一种范式：你觉得需要抓住对手或军备控制条约伙伴的每一个作弊行为。如果假设每一个行动都可能可疑，那么两个或更多的国家怎么可能走到一起，甚至同意谈判一项军备控制协议或条约呢？”
阿勒赛义德对人工智能和军备控制的研究还表明，这些系统比其支持者所宣称的要复杂得多。“这些技术存在固有的随机性，从整理用于训练模型的数据、标注数据，到模型本身，再到模型的随机性能及其缺乏可解释性，以及由此产生的随机性，”她说。
“我们如何让机器本身变得可信？”她问道。
目前，我们做不到。人工智能系统每天都在出故障，存在重大安全漏洞，设计人员往往无法解释其工作原理。这项技术难以作为新的核武器控制机制的基础。
但所有条约机制都不完美，如今没有国家会允许外国势力参观其核设施。对于科orda、莫里奇以及美国科学家联合会的其他人来说，这是一种权宜之计——利用卫星和不完美的人工智能系统监视全球核武器，可能成为通往更美好世界的一座小桥。
“《新削减战略武器条约》的后续条约不会让我们走上裁军之路，”科orda说，“它只会帮助我们防止核武器部署数量螺旋式上升至数百枚之多。”