性、人工智能和启示录

如果最近对人工智能安全和世界末日的担忧进入你的生活，那可能是因为一封辞职信。 2026 年 9 月 8 日，一位名叫雅各布·考克森 (Jacob Coxon) 的研究人员退出了美国两大人工智能实验室之一的 Anthropic，该实验室的品牌一直试图树立相对于竞争对手而言谨慎的形象。过去三年里，他先后在 OpenAI 和 Anthropic 进行预训练研究，这是一项让大型模型具备能力的引擎室工作，他的告别信中写道：“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人。这不是营销噱头。”他在股权归属前两个月离开并放弃了股权。该帖子一天内浏览量超过一亿次。令人惊讶的是，他的同事们并没有急于纠正他。 Anthropic 的对齐科学负责人埃文·胡宾格 (Evan Hubinger) 在几个小时内发帖称，考克森是对的，他们确实真诚地相信人工智能可以杀死所有人类，而他个人的几率在十年内约为十分之一。超过两打国会议员表示需要采取一些措施。正在建立自己的前沿实验室的埃隆·马斯克（Elon Musk）将整件事称为“心理战”，主流新闻媒体不出所料地对随后的疯狂报道进行了令人窒息的报道。为了现实地评估这一警告的严重性，我们需要了解发出警告的人。关于世界末日的最响亮的警告声音来自一种非常具体的二十五年历史的互联网亚文化，这种亚文化将自己理解为一个由比其他人思考得更清晰的人组成的社区。在硅谷之外，亚文化看起来很晦涩，是一个有着异常愚蠢的文学偏好的粉丝群体。在科技行业内，情况却并非如此。它的作家成就或毁掉了声誉。它的校友在实验室、安全研究所和慈善组织中工作，决定“人工智能安全”的含义。它的争论、婚姻、世仇和性倾向都深深地交织在这些组织的结构中，现在这些组织正在寻求公众对这个物种未来的信任。 2025 年 12 月，考克森辞职前十个月，近五百人聚集在伯克利音乐厅，举行一场关于人类可能终结的仪式。有一个现场乐队和一个二十八人的合唱团。有礼拜读经。当歌曲和演讲将房间从人类遥远的过去带向不确定的未来时，枝形吊灯一盏一盏地变暗。出席者中有大量试图构建或遏制人工智能的组织的员工。在最黑暗的时刻，组织者坐在舞台边缘，声音沙哑，告诉房间里的人：“伙计们……我认为我们不会成功。”组织者是雷蒙德·阿诺德（Raymond Arnold），他是一名网络开发人员、游戏设计师、音乐家，也是理性主义社区机构的长期建设者。阿诺德在天主教和无神论之间长大，年轻时发现了理性主义运动，并发现它“从根本上扩展了”他神圣情感的能力。 2011 年，他邀请 19 位朋友来到纽约的一套公寓，晚上配有油灯、等离子球和光剑，为他们的新世界观进行假期测试。他们唱着第一批冬季篝火和塑造人类未来的技术，熄灭了最后一根蜡烛，并坐在黑暗中。两年后，阿诺德将这一实验变成了一部名为《比今天更光明》的公共作品。版本很快从纽约和湾区传播到北美、欧洲等地的城市。阿诺德最初将世俗至日想象为一个广泛的人文主义节日，但它成为理性主义日历的主要节日。这并不完全是偶然的。他自 2011 年起就组织了这个社区，现在帮助运营 LessWrong 和 Lighthaven（作为其物理中心的伯克利会议园区），并认真地将自己的职责描述为“乡村牧师”。他试图构建持久运动所需的文化技术：歌曲和读物的经典，从光明到黑暗再返回的仪式，以及一年一度让各地分散的信徒聚集在一个房间里的机会。到 2025 年，阿诺德估计人工智能灾难的可能性将超过百分之五十，并担心他自己的仪式不再能够以心理健康的方式考虑灭绝。他将《至日》的制作大部分交给了其他组织者，但又重新塑造了他认为可能是“最后的至日”的作品，并在火坑周围举行了善后聚会。晚上提供了宗教传统上提供的一切：团契、仪式、关于人类在宇宙中的地位的共同故事，以及坐在某个地方，知道你将要死去。可能很快。可能是因为某些事