我为梵蒂冈和联合国提供人工智能建议——别把教皇的讲话简单当成宗教说教

神学家保罗·贝南蒂指出，教皇通谕不仅是宗教文件，更是面向全社会的道德信号。5月15日，教皇利奥十四世签署其首份通谕《壮丽的人性》（拉丁文：Magnifica humanitas），首次以教廷最高层级正式文件形式，系统警示人工智能带来的结构性风险。该通谕虽无法律效力，但深刻指出：当前AI权力高度集中于少数私营企业手中，这些企业未经民主授权、超越各国监管框架，单方面决定数十亿人所用系统的价值取向与决策逻辑。文中具体剖析了自主武器、民主话语失序、职业替代等现实威胁，并提出‘算法统治’（algocracy）概念——即由算法取代人类作出关键公共决策，例如某些地区已用预测性算法辅助警务部署和量刑建议。作者强调，AI不是技术中立的工具，其推理方式、优化目标和内嵌价值观的选择本质是政治行为；依赖企业自律（如美国当前主要采用的自愿伦理承诺模式）实为推卸责任，而非有效治理。部分科学家刻意保持‘中立’，客观上纵容了这一失衡。为何需重视这份宗教文本？因为当大学、议会、科学院等世俗机构长期回避根本性社会危机时，天主教会常以通谕方式发出文明警报——历史上，利奥十三世在1891年工业革命时期警示自动化对工人的异化；1930年代通谕则直面法西斯、纳粹与斯大林主义的兴起。《壮丽的人性》延续这一传统，敲响关于AI时代人类共同生存基础的文明警钟。