这种AI组合或能实现接近人类的智能

计算机能否达到或超越人类智能？如果可以，又该如何实现？今年早些时候，总部位于华盛顿特区的美国人工智能协会（AAAI）询问其成员：当前人工智能系统的明星——神经网络—— alone能否实现这一目标？绝大多数人的答案是否定的。相反，多数人认为，要让这些系统达标，还需要大量使用一种更古老的人工智能——符号AI。

符号AI有时被称为“老式优秀AI”，它基于形式化规则以及概念间逻辑关系的编码¹。例如，数学就是符号化的，“如果-那么”语句、Python等计算机编程语言，以及描述猫、哺乳动物和动物等概念间关系的流程图或维恩图也是如此。几十年前，符号系统曾是人工智能研究的早期领跑者。然而，在21世纪10年代初，它们被更灵活的神经网络远远超越。这些机器学习模型擅长从海量数据中学习，是大型语言模型（LLMs）以及ChatGPT等聊天机器人的基础。

不过现在，计算机科学界正大力推动新旧两种AI的更好、更大胆的融合。“神经符号AI”已成为当下最热门的术语。马里兰大学帕克分校的计算机科学家布兰登·科尔拉夫（Brandon Colelough）追踪了这一概念在学术论文中的迅速崛起（见“持续升温”）。这些研究显示，大约从2021年开始，人们对神经符号AI的兴趣激增，且没有减缓的迹象²。

许多研究人员认为这一趋势能打破神经网络在AI研究中不健康的垄断地位，并期望这种转变能带来更智能、更可靠的AI。

这两种策略的更好融合可能会催生通用人工智能（AGI）：一种能够像人类一样推理，并将知识从一种情境推广到另一种情境的AI。科尔拉夫说，它可能也适用于高风险应用，如军事或医疗决策。他表示，由于符号AI对人类而言是透明且可理解的，因此它不会像神经网络那样存在难以信任的“黑箱问题”。

神经符号AI已有不少成功案例，例如谷歌DeepMind去年公布的AlphaGeometry系统³，它能可靠地解决数学奥林匹克竞赛题——这类题目是针对有天赋的中学生设计的。但如何将神经网络和符号AI最好地结合成一个通用系统，仍是一项艰巨的挑战。

“你实际上是在设计一种双头野兽。”同样来自马里兰大学的计算机科学家威廉·雷格利（William Regli）说。

**口水战**
2019年，计算机科学家理查德·萨顿（Richard Sutton）在其博客上发表了一篇题为《苦涩的教训》的短文（见go.nature.com/4paxykf）。他在文中指出，自20世纪50年代以来，人们一再认为，制造智能计算机的最佳方式是向它们灌输人类在从物理学到社会行为等各个领域得出的关于世界规则的所有见解。萨顿写道，令人难以接受的事实是，符号方法一次又一次地被那些使用大量原始数据和扩大的计算能力来利用“搜索与学习”的系统超越。例如，早期基于人类设计策略训练的国际象棋计算机，性能不如那些仅输入大量棋局数据的计算机。

这一观点被神经网络的支持者广泛引用，以支持“让这些系统变得越来越大是实现AGI的最佳途径”这一想法。但许多研究人员认为，这篇短文夸大了其论点，淡化了符号系统在AI中能够且确实发挥的关键作用。例如，当前最优秀的国际象棋程序Stockfish，就是将神经网络与符号化的允许走法树相结合。

**神经网络与符号算法的优缺点**
神经网络由多层节点组成，节点间有加权连接，这些连接在训练过程中会被调整以识别模式并从数据中学习。它们速度快且富有创造性，但也容易编造信息，并且无法可靠地回答超出其训练数据范围的问题。

与此同时，符号系统难以涵盖“混乱”的概念，如人类语言，这类概念涉及庞大的规则数据库，难以构建且搜索缓慢。但它们的工作原理清晰，擅长推理，能运用逻辑将通用知识应用于新情况。

在现实世界中，缺乏符号知识的神经网络会犯典型错误：图像生成器可能会画出每只手有六根手指的人，因为它们没有学到“手通常有五根手指”这一通用概念；视频生成器难以让球在场景中弹跳，因为它们没有学到重力会使物体下落。一些研究人员将这些错误归咎于数据或计算能力不足，但另一些人则认为，这些错误表明神经网络根本无法实现知识的泛化和逻辑推理。

许多人认为，为神经网络添加符号元素可能是——甚至是唯一——向AI注入逻辑推理的方法。例如，全球科技公司IBM正支持神经符号技术作为实现AGI的途径。但也有人持怀疑态度：现代AI之父之一、科技巨头Meta的首席AI科学家扬·勒丘恩（Yann LeCun）曾表示，神经符号方法与神经网络学习“不兼容”。

萨顿（现就职于加拿大埃德蒙顿的阿尔伯塔大学，2024年图灵奖得主，该奖项相当于计算机科学领域的诺贝尔奖）仍坚持其最初的观点：“《苦涩的教训》仍然适用于当今的AI。”他告诉《自然》杂志，这意味着“添加符号化、更多手动设计的元素可能是个错误”。

加拿大温哥华的AI企业家、作家兼认知科学家加里·马库斯（Gary Marcus）是神经符号AI最直言不讳的倡导者之一，他倾向于将这种意见分歧描述为一场哲学之争，而现在这场争论正朝着对他有利的方向解决。

麻省理工学院（MIT）的机器人专家莱斯利·凯尔布林（Leslie Kaelbling）等其他人则表示，争论哪种观点正确是在分散注意力，人们应该专注于任何有效的方法。“我就像只喜鹊，只要能让我的机器人变得更好，我什么都愿意做。”

**混合搭配**
除了旨在融合神经网络和符号系统优势这一核心目标外，神经符号AI的定义较为模糊。马库斯说，神经符号AI涵盖“一个非常广阔的领域，而我们只探索了其中一小部分”。

目前有许多广泛的方法，人们试图以各种方式对其进行分类。许多人强调的一种方法是使用符号技术来改进神经网络⁴。AlphaGeometry可以说是这种策略最复杂的例子之一：它在一个由符号计算机语言生成的数学问题合成数据集上训练神经网络，使解决方案更易于检查，并减少错误。科尔拉夫说，它优雅地融合了两者。另一个例子是“逻辑张量网络”，它为神经网络提供了一种编码符号逻辑的方法。可以为语句分配一个模糊真值⁵：一个介于1（真）和0（假）之间的数字。这提供了一个规则框架来帮助系统推理。

另一种广泛的方法则相反，即使用神经网络来优化符号算法。符号知识数据库的一个问题是，它们通常非常庞大，搜索起来需要很长时间：例如，围棋的所有可能走法“树”包含约10¹⁷⁰个位置，搜索起来不切实际。神经网络可以被训练来预测最有希望的走法子集，从而减少系统需要搜索的“树”的范围，加快确定最佳走法的时间。谷歌的AlphaGo在著名的击败围棋世界冠军时就采用了这种方法。