教皇搅动硅谷

教皇利奥感到不安。

变革的速度令人目不暇接。冲突的因素显而易见：工业的巨大扩张、科学的奇妙发现、雇主与工人之间关系的变化、在普遍贫困和道德沦丧中创造的巨额财富。

他在1891年具有里程碑意义的教皇通谕《新事》（Rerum Novarum）中写道，局势的严重性“让每个人都充满了痛苦的忧虑”。

整整135年后，现任教皇利奥——他选择这个教皇名号是为了向其前任致敬——发布了自己的通谕，表达了对技术颠覆性力量以及采取道德应对措施的紧迫性的类似担忧。

他的信函《伟大的人性》（Magnifica Humanitas）聚焦于在人工智能时代捍卫人性。

他表示，每个人都必须从数字化转型中受益，任何人都不应被简化为“生产力”、“认知表现”或“纯粹的数据”。因此，人工智能应该被“解除武装”，绝不能成为“统治、排斥或死亡”的工具。

这份通谕值得深思细读，但其中有三点尤为突出。

首先，教皇并不敌视技术。

事实上，他拥抱技术。他本人是 Duolingo 和 Wordle 的爱好者，此外，梵蒂冈也使用人工智能将其讲道翻译成60种语言。他承认，人工智能可以加速科学进步，改善所有人的生活。

但他认为，技术并非道德中立，必须从一开始就在道德框架内进行设计。他写道：“让我们不要害怕在当代的‘建筑工地’上亲自动手。”

其次，无论技术多么新颖，人类都应始终努力维护宝贵的人类价值观。（你当然会期望教皇说出这样的话）。

人工智能系统可能表现出客观性，但它们反映并强化了意识形态偏见和权力结构。鉴于企业权力的集中，以及利用个人数据创造一种新形式数字殖民主义的可能性，教皇有理由担心创新可能成为不公正现象的加速器。

第三，这位对14亿天主教徒有影响力的世界精神领袖，正在认真应对人工智能的严峻挑战，而其方式正是美国最强大的世俗领袖——美国总统——所选择忽视的。

在教皇发布其长达42300字的信函后不久，美国总统 Donald Trump 便废除了一项极简的行政命令，该命令本要求前沿人工智能模型在发布前接受测试。

Anthropic 公司联合创始人 Chris Olah 参与了该通谕的发布会，这表明硅谷至少有一些人准备参与这场辩论。

Olah 警告说，每一个前沿人工智能实验室——包括 Anthropic——都在一套激励和约束机制内运作，而这些机制有时与做正确的事情相冲突。他说：“我们需要激励机制无法扭曲的道德声音。”

然而，其他科技界人士已经对教皇的讯息不屑一顾。在他们看来，硅谷正在颠覆神学产业，就像颠覆所有其他行业一样，梵蒂冈捍卫自己的地盘是很自然的。

然而，教皇也表明他准备好参与这场争论。他抨击了在一些人工智能圈子中正发展出类似邪教追随者的超人类主义和后人类主义。

在一次堪称经典的教皇式“吐槽”中，他引用了《指环王》中甘道夫（Gandalf）的话来阐述责任的本质，对许多技术专家而言，这本书比《圣经》更能引起共鸣。此举似乎直接针对美国的军用无人机和数据公司 Anduril 和 Palantir，这两家公司的名字都取自 JRR Tolkien 的著作。

在谈到杀手机器人的危险时，教皇警告说，人工智能有可能降低暴力门槛，促使军事指挥官根据威胁预测草率行动，并将受害者简化为数据。

他明确的红线是，不允许将致命决策委托给人工系统。

对许多人来说，教皇的反思似乎不切实际，但这正是他职责的一部分。而这恰恰使他在呼吁“真正的现实主义”时，其最终的呼吁更具说服力。

理想主义者倾向于扭曲事实以印证自己的世界观。犬儒主义者则对任何积极的改变感到绝望，他们相信强权将永远获胜。

但真正的现实主义者不会放弃让世界变得更美好的努力。

相反，他们通过可信的机构、可验证的保障、耐心的谈判、冲突预防和保护平民等方式，坚持不懈地追求共同利益。

阿门。 金融时报