Anthropic 联合创始人 Chris Olah 对教皇利奥十四世《Magnifica Humanitas》的评论

Anthropic 联合创始人 Chris Olah 对教皇利奥十四世通谕“Magnifica humanitas”的评论 2026 年 5 月 25 日 2026 年 5 月 25 日星期一，教皇利奥十四世发布了有关人工智能主题的通谕：“Magnifica humanitas：关于在人工智能时代保护人类。” Anthropic 联合创始人 Chris Olah 受邀在梵蒂冈城举行的通谕发布会上发表讲话，这是 Anthropic 旨在扩大有关人工智能提出的重要问题的对话的举措的一部分。以下是他的讲话全文。 — 圣父、各位阁下、各位阁下、尊敬的发言者、女士们、先生们，大家早上好。今天很荣幸来到这里。我想从一家人工智能公司的联合创始人以及出于帮助人类福祉的愿望而选择这项工作的人开始，这听起来可能很奇怪。每个前沿人工智能实验室（包括 Anthropic）都在一系列激励和约束下运作，这些激励和约束有时可能与做正确的事情相冲突。保持商业可行性和保持研究前沿的压力。地缘政治压力。还有更古老、更明显的骄傲和野心压力。无论我们中的任何一个人多么真诚地想做正确的事——我相信我们很多人都是这么做的——我们总是会受到这些激励的影响。这就是为什么，如果我们希望这项技术顺利发展，那么在这些激励措施之外还有人是非常重要的——那些关心事情顺利进行并坚持安全的人，那些密切关注的人，那些愿意说难听的话的人，那些愿意成为我们真诚、深思熟虑的批评者的人。只有通过对话和共同努力，通过推拉，人类才能取得伟大的成就。这就是我在《人道颂赞》中所看到的，这就是为什么我感谢尊者和教会承担这项辨别工作。我们经常沉迷于分歧，但充满尊严和良知的人性却有如此多的共同点。在我们 Anthropic 与不同信仰和文化传统的领导人进行的对话中，我们发现了一个共同的、根深蒂固的信念：如果这项技术即将到来，它一定会进展顺利——为了我们共同的家园，为了孩子们的到来。这些系统是什么 有些人可能认为人工智能问题最好由像我这样的计算机科学家来处理。他们错了：人工智能提出的问题比人工智能研究界更重要，不仅在于其影响，还在于其本质。人工智能系统的设计方式与桥梁或飞机的设计方式不同。我们了解飞机，因为我们设计了它的每个部分，并且我们了解作用于它的物理原理。人工智能模型不是这样的。它们是在大致模仿大脑的结构上生长的，在人类思想和语言的巨大遗产上生长的。所成长的事物远比我们想象的科幻小说更加微妙、奇怪和美丽。它们并不是我们所承诺的冷酷、会计算的机器人。它们是由我们、我们的言语所创造的——正如教宗所观察到的，它们在一些重要方面仍然是神秘的，即使对于我们这些训练它们的人来说也是如此。如果有帮助的话，我有时将其描述为有点像将虚构人物变为现实。现在我们正在进入一个非凡的世界，那些虚构的人物与我们交谈，工作，工作。这显然提出了计算机科学之外的问题。使这一切成为可能的机制是数学、编程和科学的工作。但我们选择什么样的角色，它如何与世界互动，它应该如何与世界互动——这些对于人文学科、宗教、哲学、整个社会来说都是更明确的问题。辨别力的三个问题 尊者呼吁辨别力是非常及时的。我想提出三个我认为最需要教会发出声音的问题。首先是我们对全球穷人的责任。人工智能确实有可能大规模取代人类劳动力。如果这种情况发生，支持流离失所者将成为历史性的道义责任。这项任务已经足够困难了，但我担心大多数对话都会错过一个更艰巨的挑战。人工智能的发展集中在少数富裕国家。如何确保人工智能的成果在全球范围内共享？我们没有这方面的机制。这是一个尚未解决的问题，也是教会历来拒绝让世界忽视的问题。第二是对人类繁荣的道德想象力和抱负的需要。如果人工智能模型要广泛普及，人类、家庭和世界的繁荣发展会是什么样子？如今，父母已经开始担心孩子的心灵；个人关于他们工作的未来。这些不是实验室可以回答的问题，但它们是像你们这样的传统已经存在了数千年的问题，我们需要你们继续将它们带入历史的新时刻。第三个是需要