AI的下一个突破？一种解读意识的算法

它们真的能拥有意识吗？许多人工智能的实际开发者并不会这样谈论。他们忙于追逐名为“通用人工智能”的性能基准，这是一个纯粹的功能类别，与机器对世界可能产生的体验毫无关系。因此，尽管我心存怀疑，但我觉得，去了解一家认为自己能破解意识密码的公司，或许会很有启发，甚至能开阔眼界。Conscium公司由英国人工智能研究者兼企业家丹尼尔·赫尔姆于2024年创立，其顾问团队阵容强大，包括众多神经科学家、哲学家和动物意识研究专家。我们初次交谈时，赫尔姆的态度很务实：有充分理由怀疑语言模型是否具备意识。乌鸦、章鱼，甚至变形虫都能以聊天机器人无法做到的方式与环境互动。实验还表明，人工智能的话语并不能反映连贯或一致的状态。正如赫尔姆所言，这也呼应了广泛的共识：“大型语言模型只是大脑非常粗糙的模拟。”但一个很重要的前提是，一切都首先取决于“意识”的定义。一些哲学家认为，意识过于主观，永远无法被研究或重现，但Conscium公司打赌，如果意识存在于人类和其他动物身上，那它就可以被检测、测量，并植入机器中。关于意识的关键特征，存在许多相互竞争又相互重叠的观点，包括感知和“感受”能力、对自身及环境的觉察能力，以及所谓的元认知（即思考自身思维过程的能力）。赫尔姆认为，当这些现象结合在一起时，意识的主观体验便会产生，就像快速翻动书中的连续图像会产生运动错觉一样。但如何识别意识的组成部分——即单个“动画帧”以及将它们组合起来的力量呢？赫尔姆说，方法是让人工智能进行自我反思。Conscium公司的目标是将有意识的思维分解为最基本的形式，并在实验室中对其进行催化。“意识一定是由某种东西构成的——在进化过程中，它就是从这种东西中产生的。”参与Conscium项目的南非精神分析学家兼神经心理学家马克·索姆斯说道。在他2021年出版的《隐秘的源泉》一书中，索姆斯提出了一种注重情感体验的意识新思考方式。他认为，大脑通过感知和行动形成一个反馈回路，其目的是减少意外，会生成关于未来的假设，并随着新信息的到来而更新。这一观点建立在卡尔·弗里斯顿提出的“自由能原理”之上，弗里斯顿是另一位著名的（尽管存在争议）神经科学家，也是Conscium公司的顾问之一。索姆斯进一步指出，在人类中，这种反馈回路进化成了一个由情感介导的系统，正是这些情感催生了感知能力和意识。脑干在调节情绪方面起着关键作用，而脑干受损的患者其意识似乎会消失，这一事实也支持了这一理论。在书的结尾，索姆斯提出了在实验室中测试其理论的方法。他说，现在他已经做到了。他尚未发表相关论文，但给我看了。这让我难以理解吗？是的，有一点。索姆斯的人工智能体生活在一个简单的计算机模拟环境中，由算法控制，这些算法具有他所提出的作为意识基础的那种弗里斯顿式、情感介导的回路。“我做这项研究有几个动机，”索姆斯说，“其中一个就是它真的太有趣了。”索姆斯的实验室环境不断变化，需要持续的建模和调整。这些智能体对这个世界的体验是通过模拟类似于恐惧、兴奋甚至愉悦的反应来介导的。因此，简而言之，它们是“愉悦机器人”。与如今人们谈论的人工智能体不同，索姆斯创造的智能体真的有探索环境的欲望；要正确理解它们，就必须试着想象它们对自己的小世界“感觉”如何。索姆斯认为，最终应该有可能将他正在开发的方法与语言模型相结合，从而创造出一个能够谈论自身感知体验的系统。目前，Conscium公司的研究尚处于萌芽阶段，几乎可以说不存在。这就像是一种可能实现的不可能性发出的微弱闪光。但它确实非常有趣，更重要的是，它促使我以一种新的方式思考自己的意识。容我进行一下元认知：我倾向于认为是思考让我拥有意识，而非情感。但我——或者说我们——是不是一直在错误的地方寻找意识？如果意识可以简化为如此简单的机制，那意味着什么？也许那些声称在ChatGPT中瞥见感知能力的人，终究不是在幻想。