教皇利奥十四世关于AI的通谕笔记Notes on Pope Leo XIV's encyclical on AI

2026年5月25日

今晨由梵蒂冈送达：《利奥十四世教宗《伟大人性》——人工智能时代守护人的尊严》。这是一份非常有趣的文件，关于将AI融入现代社会的伦理问题，我见过最清晰的论述之一。

利奥十四世选择“利奥”这一名字，是为了纪念以1891年《新事》通谕（论“资本与劳工的权利与义务”）闻名的利奥十三世。

梵蒂冈新闻网的这篇报道进一步解释了此举的意义：

在当选后与枢机主教团首次正式会晤中，利奥十四世部分解释了他选用教宗名的原因。“此事背后有不同考量，”他说道，随后说明选择“利奥”之名，“主要是因利奥十三世在其历史性通谕《新事》中，针对第一次工业革命背景下的社会问题提出了见解。”他继续道：“如今，教会为所有人提供其社会教义的宝库，以回应另一场工业革命及人工智能领域的发展——这些发展对人类尊严、正义与劳动构成了新的挑战。”

现在，我们终于读到利奥十四世关于AI革命的通谕。内容虽多，但行文风格平易近人，甚至非天主教徒也能理解。

以下是我的一些重点摘录：

（大部分通谕是在遛狗时用ElevenReader iPhone App听的，这是我第一次试用该应用。效果极佳：我将文档URL粘贴进去，它便以高质量语音逐段朗读，并同步高亮显示。）

以下是我的摘录，以下强调均为本人所加：

第98节对大型语言模型（LLM）可解释性问题的描述很有启发性：

首先，任何关于AI风险的陈述都会因其迅猛发展而迅速过时；其次，包括设计者在内的所有人对其实际运作机制都仅有有限认知。事实上，当前AI系统更偏向“培育”而非“构建”，开发者并未直接设计所有细节，而是创建了一个让智能“生长”的框架。因此，这些系统的内部表征与计算过程等基础科学层面至今仍属未知。

我喜欢第83节对发展与尊严关系的阐述：

对个人而言，发展既是责任也是权利。必须满足最低条件，使每个人和民族都能在不陷入依赖或无法获取必需品的状态下，按其尊严繁荣。当发展以人为中心而非财富积累为目标，且既关注个体也关注群体时，才真正具有人性。正义要求承认社会与民族的权益，并包含对后代的责任。若发展导致少数人消费激增却将成本转嫁他人，或将某些地区永久置于从属地位阻碍其潜力释放，则绝非真正的人类发展。

第100节提及了文化偏见与谄媚的固有影响：

在个人使用中，尤其需要谨慎考虑三个方面：获取结果的便捷性、客观性的表象以及人类沟通的模拟。信息、复杂分析、媒体内容和实际协助的快速与简单获取无疑让生活更便利，但也可能助长过度依赖和现成答案的寻求，削弱个人的创造力与判断力。这些系统提供的回应和建议表面上的客观性，可能让我们忽视其背后设计者训练者的文化预设——无论其优势与局限。人工模仿的人类积极沟通（建议、共情、友谊甚至爱）往往引人入胜且有时真正有益，但对于辨别力不足的用户，也可能产生误导，营造出与真实个人建立关系的错觉。当语言被模拟时，它们无法构建真实关系，仅呈现其假象。尤其在缺乏真实关系与情感纽带的情境中，这种人工关怀或支持的模仿风险尤为突出。

第101条涉及环境影响：

当前AI系统消耗大量能源和水资源，显著影响二氧化碳排放，并对自然资源造成沉重负担。随着复杂性提升，尤其是大型语言模型，算力与存储需求随之增长，这需要庞大的机器网络、电缆、数据中心及高能耗基础设施支撑。因此，开发减少环境影响的可持续技术方案至关重要，以保护我们共同的家园。

第102条涵盖算法系统在缺乏“同情、怜悯、宽恕”时决策的风险：

AI的使用绝非纯技术问题：当其介入影响人生进程时，便触及权利、机会、地位与自由。关乎就业、信贷、公共服务获取乃至个人声誉的重要敏感决策，可能被完全交由不知晓“同情、怜悯、宽恕，更不了解人可改变希望”的自动化系统执行，从而催生新的排斥形式。

第105条强调系统应用中需有人类问责机制：

若要AI尊重人性尊严并真正服务于公共利益，必须明确各环节责任：从设计开发者到使用者及依赖其做具体决策的人。然而，许多情况下导致结果的内生过程仍不透明，使得追责纠错困难。此时问责机制成为关键：需能识别谁应“负责”于决策、为其辩护、监督之，并在必要时挑战决策、补救损害。

而第108条探讨了AI如何放大资源拥有者的权力：

事实上，与每次重大技术变革一样，AI往往会放大那些已经掌握经济资源、专业知识及数据获取能力者的力量。基于公共利益和商品的普遍性，这引发了严重关切——因为少数但极具影响力的群体可能塑造信息与消费模式、影响民主进程并将经济动态导向自身利益，从而削弱社会正义与人民间的团结。正因如此，尤其是当AI涉及公共产品和基本权利时，其使用必须以参与性和辅助性原则为基础，通过明确的准则和有效监督来引导。

该部分明确将数据视为应被视作公共商品的事物：

[...] 此外，数据的控制权不能仅由私人掌握而必须得到适当监管。数据是多方贡献的产物，不应被视为可出售或交由少数人掌控的商品。需以创造性思维管理数据作为共有或共享商品，正如圣若望·保禄二世曾对集体商品提出的建议，秉持参与精神。

鉴于Palantir之名源自《指环王》典故，我不禁怀疑《王者归来》第213节中J.R.R. Tolkien的引用是否暗含教皇对彼得·蒂尔的一丝讽刺。

二十世纪天主教作家J.R.R.托尔金在其小说主人公口中这样描述我们的责任：“我们无需驾驭世间所有浪潮，而应在所处岁月尽己所能，铲除已知领域的恶行，使后来者得以耕耘洁净的土地。”爱的文明不会源于单一壮举，而是无数坚定忠诚的小小行动总和，这些行动构成了抵御非人化的屏障。因此，值得我们驻足思考，各自以何种方式协作构建爱的文明。

又一个2026年预测落空

今年1月6日，我参与了Oxide and Friends 2026预测播客节目，讨论2026、2029和2032年的预测。我的预测记录在此，如今看来野心远不足够——LLMs编写优质代码已无可争议，沙盒技术取得巨大进展，新西兰鸮鹦鹉繁殖季确实表现极佳。

节目中有一段内容未写入我的总结，但现稍作编辑后转录如下：

Bryan Cantrill: 37:13 我认为AI给自己制造了一些真实的公众认知问题。今年，前沿模型公司之一很可能会发布一份白皮书，解释AI的普及将如何惠及所有人——他们试图提出某种经济论据，因为到2026年大选时，如何看待这些技术及其监管将成为一场巨大的混乱，目前这场辩论中充斥着更多情绪而非理性。 Simon Willison: 38:05 我想补充一点：只有当他们能借助现有权威专家背书时，这种说法才可能成立。比如萨姆·阿尔特曼和大里奥·达里不断发表相关论文，但没人相信他们的观点。要是巴拉克·奥巴马为这类立场文件签名，或许人们才会稍微认真对待。 Adam Leventhal: 38:27 否则，这就像埃克森石油公司宣称“含铅汽油有益健康”一样荒谬。 Bryan Cantrill: 38:31 没错……天哪。奥巴马确实是个好例子——选比尔·克林顿的话，大家只会翻白眼，所以必须找一位真正有公信力的人来证明这种影响是普惠性的。但如果真有人出面支持，很快也会暴露其背后的利益纠葛。 Simon Willison: 38:57 那教皇呢？ Bryan Cantrill: 39:01 教皇对此可是很上心的！真是个好预测。我们挖到宝了——教皇对大型语言模型（LLMs）及其全球经济影响的表态。西蒙，如果教皇认为这会导致经济崩溃，我会给你满分。

说到利奥十四世与利奥十三世的关联，我完全不知情，当时录制节目时根本没考虑到这点！现在看来，我的预测显得相当浅薄……