这些AI巨头准备捐出全部财富

西尔弗在2013年至2025年间在谷歌DeepMind担任研究员。他专攻强化学习，这是一种通过正向和负向反馈来教人工智能模型的方法。2016年，他主导开发了AlphaGo，后者成为首个击败围棋人类冠军的人工智能，曾被称作一种特定领域的超级智能。他已于今年1月离开谷歌DeepMind，创办名为Ineffable Intelligence的公司，并押注强化学习突破将全面缩小人类与机器在认知能力上的差距。

创办Ineffable Intelligence时，西尔弗从投资者处融资11亿美元，公司估值51亿美元。据报道，这是欧洲历史上规模最大的种子轮融资。他还承诺，未来如果出售公司，将把全部所得捐给慈善机构。

西尔弗在伦敦国王十字区的办公室接受《连线》杂志采访时说，他在非常深入地思考自己能够做什么，才能让世界获得最大影响。这种影响不仅来自他做的工作，也来自他在这个过程中获得的财富。这家办公室位于DeepMind总部附近。

他说，出售公司以后会再决定如何使用资金，但他的目标是拯救尽可能多的生命。

西尔弗是越来越多承诺将股权收益用于慈善的人工智能创始人中的最新一位。其他人还包括DeepMind联合创始人、微软人工智能业务负责人穆斯塔法·苏莱曼，以及自动编程平台Lovable创始人安东·奥西卡。如果OpenAI和Anthropic按计划上市，并在此过程中造就成千上万新的百万富翁，那么人工智能行业可能很快就会在科技慈善领域占据越来越大的比重。

然而，随着新一代技术慈善家出现，也产生了一连串尚未解决的问题：慈善是否是重新分配财富最合适的方式？超级捐赠者在多大程度上需要为他们试图解决的部分问题负责？一项随公司成功而扩大的捐赠承诺，是否会为糟糕的商业做法或鲁莽的加速主义辩护？这一次的硅谷捐赠，是否与此前几轮有所不同？

埃塞克斯大学社会学教授、《没有免费的礼物》作者林赛·麦戈伊说，不能总是指望资本主义来解决资本主义做法本身造成的问题，例如极端财富集中和巨大不平等。她把这种做法比作让纵火犯去扑灭他刚刚点燃的房子。

西尔弗通过创始人承诺组织正式确立自己的慈善承诺。该非营利组织帮助企业家捐赠财富。与公开但不具约束力的捐赠誓言不同，创始人承诺要求参与者签订合同。西尔弗说，选择做出具有约束力的承诺非常重要。

创始人承诺组织自2015年以来已经运行多年。但该组织记录的承诺金额近期大幅上升，从2023年的4亿美元增至今年已录入的40亿美元。人工智能行业目前占该组织累计承诺总额的三分之一。

该组织联合创始人大卫·戈德堡表示，创始人承诺的目标是寻找大规模配置资本、让世界更好的最佳方式。它常常与有效利他主义被放在一起。有效利他主义鼓励人们积累财富以便捐赠，强调依赖统计而非情绪，并优先选择可能在遥远未来产生最大影响的事业。但戈德堡并不喜欢这种比较。他说，创始人承诺更关注当下的人类苦难，更具人文主义色彩。

西尔弗自认是有效利他主义者，但表示自己的风格更关注此时此地。因此，他计划把承诺所得资金交给疟疾基金会等组织，因为这些组织被认为能在近期挽救最多生命。他说，当今天仍有数百万人受苦和死亡时，他很难把重点放在人类遥远的宇宙未来上。

承诺将出售股权收益的一半捐出的Lovable创始人奥西卡，不把自己看作有效利他主义者，但他同样相信，通过事业成功积累财富，是他最大化个人世界影响力的最佳方式。他认为，由对人类未来非常审慎思考的人来建设人工智能，是一件非常好的事。

最著名的技术慈善家范例是盖茨基金会。由比尔·盖茨和梅琳达·盖茨创立的这一组织，25年来已向贫困和疾病相关事业捐出超过1000亿美元。Meta创始人马克·扎克伯格和妻子普莉希拉·陈也承诺，通过自己的陈与扎克伯格倡议，把他们2000亿美元的财富捐给科学研究。两者常被用来证明企业家精神可以转化为有效慈善，逐利动机也可以被用于做好事。

新一代人工智能慈善家似乎想把这种传统延续到一个他们想象中将被超级智能彻底重组的世界。奥西卡说，长久以来他一直认为，这场技术转型将是他一生中最大的事件。

不过，麦戈伊说，这种捐赠也有代价，可能被超级捐赠者暗中用来推进政治利益。一项近期研究发现，对慈善资金的依赖使世界卫生组织优先支持捐赠者偏好的事业，却损害了其他紧急问题，例如非传染性疾病的应对。

麦戈伊认为，如果捐赠只是缓解由财富不平等产生的问题，而不是解决根本原因，就可能在讨论长期系统性补救方案之前，提前结束这种讨论。她说，由问题的制造者来解决问题，看似诱人，但不一定带来好结果；人们也不应该自欺欺人地认为赚钱本身有什么高贵。

世界卫生组织自己也承认资金问题，并在2022年提出新模型，试图回应部分担忧。盖茨基金会首席执行官马克·苏兹曼也承认依赖超级捐赠者存在陷阱。他在2023年说，一家私人慈善机构成为跨国全球卫生事业最大资助者之一，并不妥当，而盖茨基金会已经成为世界卫生组织第二大捐赠方。但他也把原因归于政府资助减少，并表示如果更多政府能超过他们，他很希望如此。

超级捐赠者可以资助一些因意识形态而被政府忽视的事业，例如计划生育。但剑桥大学研究政治理论的学者阿波琳·泰扬迪耶说，这些资助者并不承担同等程度的问责。她说，这些资助者并非民选产生，不需要向决策问责。这最终回到一个问题：慈善是否是重新分配资源最合法的方式。

还有一个风险：企业家可能把慈善雄心当作对破坏性行为进行道德开脱。2024年，曾被视为加密货币巨头和有效利他主义代言人的山姆·班克曼-弗里德，因诈骗被判25年监禁。庭审中，一名前同事作证说，班克曼-弗里德的所有决策都基于冷酷的统计计算，只要有可能带来足够好的结果，他愿意承担灾难性风险。有效利他主义领袖后来宣布他背叛了该运动，但也有人认为，他的诈骗正是这种运动道德逻辑缺陷的表现。

在人工智能语境中，人们担心慈善承诺可能成为风险计算的一部分。按照班克曼-弗里德式逻辑，只要超级智能创造的财富能产生足够大的慈善影响，即使不顾后果地追逐超级智能，也可能被说成正当。

西尔弗否认自己的承诺是一种道德记账，也否认这是为人工智能竞赛可能造成的负面结果购买保险。他认为超级智能将带来根本性的正面影响，并通过反复试错不断发现新知识。

西尔弗说，这种承诺不但不为鲁莽加速主义辩护，反而有助于消除可能误导人工智能发展的财务激励。他表示，建设一家超级智能公司对地球是巨大责任，这种责任不应由个人贪婪主导。他说，这是一个刻意的选择，以确保自己作为个人所采取的行动是为了人类利益，而不是因为地平线上出现了某个巨额财富数字。

西尔弗也可能受益于一个对他有利的经济体系。但他认为，纠正这种失衡的少数方式之一，就是把自己的钱捐赠出去。他说，选择把钱用于善事的人，将对我们所生活的世界的未来产生巨大的变革性影响。这与宏观经济形势是否适合人类无关，它只是事实。