教皇利奥十四世最近发表了一道长达4万字的教皇通谕（Encyclical），主题是人类与人工智能的关系。这是梵蒂冈第一次以最高层级官方文件的形式，系统性回应AI带来的伦理挑战。通谕的核心思想用一句话概括：要防止人类被技术”异化”，变成AI系统的附庸。
有意思的是，这份通谕发布后，Anthropic的联合创始人Chris Olah直接在社交媒体上公开呼应了其中的观点。一个宗教领袖和一个AI实验室创始人在同一个问题上发声，这个画面本身就挺耐人寻味的。
技术应当服务于人的尊严，而不是让人变成算法的工具。我们需要外部力量介入AI伦理治理，不能把全部话语权交给市场和科技公司。
通谕到底说了什么
教皇通谕在天主教教义体系里属于最高层级的教皇文献，通常用来回应人类社会面临的重大议题。这次选择AI作为主题，说明梵蒂冈认为这个问题已经不只是技术问题，而是关乎人类文明走向的伦理命题。
通谕里反复强调一个词：”异化”（alienation）。意思是说，当AI系统越来越擅长模仿人类、替代人类决策，人有可能在不知不觉中把自己的判断权、选择权、甚至道德责任感都让渡给了算法。到最后，人不再觉得自己是行动的主体，而变成了系统里的一个节点。
这个担心不是宗教界独有的。最近一两年，越来越多的AI研究者、哲学家和政策制定者开始讨论类似的问题：当AI帮你写邮件、帮你做招聘决策、甚至帮你判断谁该获得贷款，你到底是在”使用工具”，还是在”被工具塑造”？
为什么AI圈会认真看待这份通谕
Chris Olah不是随便什么人都请得动的。他是Anthropic的创始团队成员之一，也是AI可解释性研究领域的重量级人物。他公开呼应教皇通谕，至少说明一点：AI技术圈内部已经有人在认真思考”技术边界”这个问题，而不只是埋头把模型做得更大。
Anthropic一直以来把自己定位成”最关注AI安全的主流实验室”，这次创始人亲自在宗教文献上表态，某种程度上也是在向外界释放信号：AI伦理不是公关话术，而是需要真正纳入技术研发流程的约束条件。
外部治理真的能起作用吗
通谕里呼吁”外部力量介入AI伦理治理”，这里说的外部力量，主要指政府机构、国际组织、公民社会，当然也包括宗教伦理体系。但现实情况是，AI技术的迭代速度远远快于任何监管框架的成型速度。
欧盟的《AI法案》从提出到落地花了好几年，而这几年里大模型已经迭代了三四代。等规则写好了，要监管的技术对象可能已经完全不一样了。这就是为什么很多人对”外部治理”能不能真正起效持保留态度。
但换个角度看，正因为技术跑得太快，才更需要有人站在旁边说”慢一点，想清楚再走”。不管这个声音来自梵蒂冈、布鲁塞尔还是别的什么地方，只要能让那些做决定的人偶尔停下来想一下后果，就不算完全没有意义。