教皇利奥首份通谕批评AI：硅谷的“技术救世”叙事，被刺中了软肋

教皇利奥的第一份通谕，写了超过42000词，篇幅接近一部短篇小说。

它谈新闻核查，谈多边外交，谈教廷迟迟谴责奴隶制的道歉，也谈“正义战争”概念已经过时。但真正刺痛当下科技产业的，是它对AI的判断：不受监管的人工智能发展，正在被包装成一种新的救赎方案。

硅谷很少直接说“我们来拯救人类”。

它通常换一种说法：提高效率，降低成本，扩大访问，解决孤独，修复教育，辅助医疗，提升治理。

听起来都对。问题也正在这里。

这份通谕真正补上的信息

相较于只把它理解为一份AI伦理表态，新的材料补强了三点。

还有一个很有时代感的细节：报道提到，教皇警告不要用AI替代人类，但他本人似乎也使用AI。

这不该被写成丑闻。它更像一个注脚：今天几乎没人能站在AI之外批评AI。批评者也在工具半径里。

这让问题更难，也更真实。

宗教为什么要管AI

如果问题是“教皇懂不懂模型训练”，那就问偏了。

他当然不会比工程师更懂算力，不会比监管者更懂责任归属，也不会比创业者更懂产品迭代。

他插手的是另一个问题：人是什么。

AI产业最强的叙事，从来不只是“效率提升”。它在重新安排人的位置。

客服可以替代。写作者可以替代。教师可以替代。医生的部分判断可以替代。陪伴也可以替代。

每一步都有理由：更便宜，更快，更可规模化。

但当一切都被翻译成效率指标，人很容易被系统默认成成本项。

这就是教皇通谕的锋利处。它不提供模型评测，也不写监管细则。它提醒的是：别把“能做”自动等同于“该做”。

AI最危险的时刻，不是它像人，而是管理者开始把人当成可优化的冗余。

被影响的不是抽象的“人类”

这件事最直接影响两类人。

一类是被AI系统替代、评分、监控、筛选的人。

他们可能是内容审核员、客服、教师、医生助理、记者、翻译、普通白领，也可能是被算法风控、招聘系统、政务系统处理的普通人。平台说这是效率，公司说这是降本，政府说这是治理升级。

这些话不一定错。

但问题是，被系统处理的人，通常没有同等议价权。他们很难知道自己为什么被拒绝，为什么被降权，为什么被替代，为什么被一个模型判定为“不合适”。

另一类是监管者和公共机构。

通谕把AI放进新闻核查、多边外交、战争伦理这些议题旁边，意思很清楚：AI不是一个单纯的办公软件升级。它会进入舆论、行政、教育、医疗、战争和社会分配。

一旦进入这些场景，错误就不只是“体验不好”。错误会变成伤害，偏见会变成制度，省钱会变成剥夺。

这也是为什么“监管”二字不能只停在口号。真正要看的，是部署边界、责任主体、申诉渠道、人工复核和透明度。

没有这些，所谓AI治理就是给权力装上一层技术外壳。

“技术救世主义”的账本

我不太买账那种轻飘飘的嘲笑：宗教谈AI，像中世纪评论云计算。

这个说法省事，也傲慢。

今天AI治理的难点，本来就不只是技术安全。它更关乎谁能部署，谁能获利，谁承担错误，谁被迫适应。

硅谷的技术叙事很熟练：先把世界描述成低效、混乱、落后，再把自己的系统描述成答案。教育不够好？上AI导师。医疗资源不够？上AI医生。年轻人孤独？上AI伴侣。政府太慢？上AI治理。

每个答案都有实用价值。

但每个答案背后也都有一笔账：数据归谁，模型归谁，接口归谁，订阅费归谁，解释权归谁。

“天下熙熙，皆为利来。”这句老话放到今天并不俗。AI当然有理想主义，也确实能帮很多人。但它的扩张同样受资本回报、平台控制和组织惰性驱动。

很多“替人类减负”的方案，最后会变成“减少需要付钱、需要协商、需要尊重的人”。

这才是权力账本。

教皇这次刺中的，不是模型能力，而是这本账。

历史并不新鲜，只是接口变了

每一种通用技术扩张，都有类似时刻。

铁路改变空间，电力改变工厂，电视改变政治，互联网改变舆论。AI不完全一样，它更快、更贴身，也更容易伪装成个人服务。

但权力结构很像：掌握基础设施的人，总会倾向于把世界改造成更适合自己收费和管理的样子。

铁路时代，谁控制线路，谁就控制流通。电视时代，谁控制频道，谁就控制议程。平台互联网时代，谁控制分发，谁就控制可见度。

AI时代更麻烦。它不仅控制入口，还开始参与判断。

它判断谁该被推荐，谁该被录取，谁有风险，谁更值得服务，谁可以被自动回复打发掉。

这就是为什么“技术救世主义”这个词比一般的“科技向善”更准确。它说的不是技术好坏，而是技术公司越来越习惯把自己放在答案的位置。

答案的位置，本来属于公共讨论、专业责任和人的尊严。

现在被产品路线图、融资周期和算力预算一点点挤走。

接下来该看什么

这份通谕目前看不出具体监管条款，也不该把它当成AI政策白皮书。

它真正的作用，是把AI从“产品进步”重新拽回“人类秩序”。

接下来最该看的不是教皇会不会懂更多技术词，而是三个现实变量：

• AI被部署到哪些高风险场景.教育、医疗、司法、就业、政务、战争。
• 出错后谁负责.模型公司、采购方、使用机构，还是被系统处理的人自己承担。
• 人有没有退出权和申诉权.不能只给一个“系统判定”。

硅谷喜欢说未来已经来了。

教皇的意思更冷一点：未来来了，不代表人就该让位。

这不是反技术。恰好相反，只有把这本权力账摊开，AI才可能成为工具，而不是披着工具外衣的新秩序。