教宗谈 AI，最容易被读成一种姿态：宗教界也来评论大模型了。

但《Magnifica Humanitas》真正有意思的地方，不在“教会怎么看 AI”，而在它把问题问得很硬：当 AI 进入招聘、信贷、公共服务、教育、内容分发，谁在获利，谁被判断，谁能申诉，谁来负责？

这份文件不急着追模型榜单，也不替哪家公司背书。它把 AI 放回一个更老的问题里：工业革命之后，技术进步怎样吞吐劳动、财富和尊严。

开发者、技术作者 Simon Willison 读完后说，这是他见过关于 AI 伦理写得最清楚、也最容易被非天主教读者理解的文本之一。他的摘录很有帮助，因为它把通谕里最容易落到现实制度的几块挑了出来：模型不可解释、文化偏见、拟人化关系、能源和水资源、自动化决策、数据所有权。

这些不是神学边角料。它们正好打在今天 AI 部署最乱的地方。

发生了什么：梵蒂冈把 AI 当成新工业革命来谈

梵蒂冈发布教宗 Leo XIV 的通谕《Magnifica Humanitas》，主题是人工智能时代如何维护人的尊严。

几个要点可以压得很短：

  • 文件对象.AI，尤其是大模型进入社会运行后的伦理和治理问题。
  • 核心关切.人的尊严、共同善、劳动、正义、问责。
  • 主要风险.算法决策替代人类判断，数据和算力集中，偏见被包装成客观，责任被技术流程稀释。
  • 影响对象.公共部门、企业采购方、教育机构、AI 公司，以及被自动化系统评估的人。

Leo XIV 取名呼应 Leo XIII，这层背景很关键。

Leo XIII 在 1891 年发表《Rerum novarum》，讨论第一次工业革命中的资本、劳动和社会问题。Leo XIV 曾解释，今天 AI 带来的挑战，也指向人的尊严、正义和劳动。

这就把 AI 从“新工具”拉回“新权力”。

历史对照当时的问题今天的 AI 对应物关键判断
《Rerum novarum》资本与劳动的冲突算法、数据、劳动机会技术进步必须被社会约束
科技公司白皮书为产业扩张争取信任证明 AI 风险可控公信力受商业动机限制
《Magnifica Humanitas》人的尊严与共同善问责、偏见、资源集中更适合作为公共讨论文本

这不是普通的“宗教回应科技”。更像一次历史定位：AI 不是孤立产品，而是一套会重排劳动、知识和权力的基础设施。

“天下熙熙，皆为利来。”这句老话放在 AI 上并不突兀。模型能力越强，越要问一句：利归何处，责归何人。

为什么重要：通谕抓住了大模型最难回避的现实问题

第 98 节对大模型的说法很准：当前 AI 系统更像被“培育”出来，而不是被完全“建造”出来。

开发者设定框架，让智能在其中生长，却不能直接设计每个细节。训练数据、模型架构、优化目标都能解释一部分，但内部表征怎样形成，推理路径怎样稳定出现，很多时候仍是黑箱。

这句话比很多行业公关更诚实。

如果系统本身不能被完整解释，那么它进入高风险场景时，就不能只靠一句“模型准确率很高”。招聘、贷款、福利发放、学校评估、内容审核，这些地方的错误不是小瑕疵。它会改变一个人的机会。

通谕还点到几个更贴近日常使用的风险：

  • AI 回答看起来客观，但会携带设计者和训练数据里的文化假设。
  • AI 模拟关心、建议、友情甚至爱，会让缺少判断力或处在孤独状态的人误以为自己获得了真实关系。
  • 大模型消耗大量能源、水和基础设施资源，成本不会自动消失，只会转嫁到电网、土地、数据中心和社区。
  • 自动化系统处理就业、信贷、公共服务和声誉时，不懂怜悯、宽恕，也不会自然给人改过机会。

最后这一点尤其硬。

现代治理喜欢把复杂判断塞进流程里，再把流程塞进软件里。软件一跑，责任就开始蒸发。前台说系统如此，经理说供应商如此，供应商说模型如此，模型不会说话。

这就是 AI 治理里最危险的懒政：把权力交给系统，把责任留给空气。

谁受影响：最该警醒的是采购方和公共部门

普通用户当然会受影响，但最直接被点名的其实不是普通用户。

更该读这份通谕的，是两类人。

一类是公共部门和大型机构采购方。他们正在把 AI 接进审批、客服、风控、教育、医疗、招聘和内部管理。很多采购表格还停留在功能、报价、交付周期、数据安全这几栏。

这不够。

真正该问的是：

  • 自动化结果错了，谁解释？
  • 造成伤害，谁补救？
  • 用户能不能挑战结果？
  • 模型供应商、系统集成商、使用机构之间，责任怎样切分？
  • 数据从哪里来，是否允许退出，是否有公共利益约束？

答不上来，就别急着叫“智能化”。那只是把一个有人负责的旧流程，改造成一个没人负责的新流程。

另一类是 AI 公司。

OpenAI、Google、Meta、Anthropic 这类公司谈安全、普惠和生产力时，外部社会并不会只听愿景。人们会问更俗也更要命的问题：训练数据从何而来，收益如何分配，谁能接入最强模型，出事谁赔，谁能审计。

第 108 节说得很直白：AI 会放大那些已经拥有经济资源、专业能力和数据访问权者的力量。数据不能完全留在私人手中，应被作为共同或共享资源来管理。

这句话切到行业根部。

今天的 AI 竞争，嘴上说模型能力，底层拼的是算力、数据、分发、法务预算和云基础设施。所谓“开放创新”，经常跑着跑着就变成少数平台的许可证游戏。

教宗没有写监管细则，但问题已经摆出来了：如果数据来自千万人、收益归少数公司、风险由社会兜底，这套账就不干净。

我更在意的不是教会态度，而是它替公共讨论换了问题

产业界最喜欢的问题是：AI 能不能提高效率？

这当然重要。没有效率，很多工具活不下去。但效率不是终点。尤其当 AI 进入公共权利和社会机会的分配环节，问题就变成：谁有权让机器判断一个人？

这份通谕的价值，就在于它没有被技术叙事牵着走。

科技公司讲 AI，常用三套话术：生产力、普惠、安全承诺。生产力好卖，普惠好听，安全承诺好写进白皮书。难点在执行：谁牺牲岗位，谁交出数据，谁承担误判，谁被系统排除在外。

通谕把这些灰色成本重新摆到桌面上。

Willison 还提到一个有趣细节：通谕引用了托尔金《王者归来》中的话，大意是我们不能掌控世上一切潮汐，但能在自己所处年代里铲除眼前田地中的恶，让后来者有干净土地可耕。

因为 Palantir 这个名字也来自《指环王》里的真知晶球，他开玩笑说，不知道这算不算对 Peter Thiel 丢了点影子。

这当然不能当成教宗点名 Palantir。不要过度解读。

但这个联想很说明问题：AI 伦理已经绕不开数据监控、国家能力、私人平台和社会控制之间的边界。真知晶球的问题从来不只是“看得更远”，还包括“谁在看，谁被看，看完拿来做什么”。

历史上，铁路、电力、报业、石油、电视、互联网平台，都经历过同一轮循环：先以效率和连接之名扩张，再在权力过度集中后被迫面对治理。AI 不完全一样，它更轻、更快、更会伪装成日常助手。但权力结构很熟。

新技术总说自己在解放人。真到结账时，常常先解放资本，再要求社会慢慢适应。

接下来观察什么：不是教宗还说什么，而是这套语言进不进入制度

这份通谕不会直接改变模型训练方式，也不会让企业明天重写采购合同。

短期内，它更像一份高质量的公共伦理文本。真正的变量在于，它会不会进入几类场景：

  • 大学和公共政策课程如何讲 AI 伦理；
  • 政府采购 AI 系统时是否加入问责和申诉条款；
  • 监管听证是否要求企业解释数据来源、风险分配和补救机制；
  • 企业 AI 风险披露是否从“我们很重视安全”变成“责任人、流程、审计、赔偿”可检查。

如果只被摘成几句漂亮引文，它很快会沉下去。

如果进入制度语言，它会改变 AI 被部署的方式。不是让 AI 停下来，而是让部署者不能再躲在“模型就是这样”的薄雾后面。

我对这份通谕的判断很简单：它没有解决 AI 问题，但它把问题问对了。

AI 行业现在不缺能力叙事，缺的是责任叙事。模型看着更强，产品反而更虚，原因就在这里：用户被要求信任系统，却很少拿到追责系统。

教宗的第一份 AI 通谕，表面讲人的尊严，刀口其实落在技术权力。谁控制数据，谁分配机会，谁逃避责任。把这三件事讲清，AI 伦理才不是装饰品。