解雇萨姆·奥尔特曼 (Sam Altman) 的 OpenAI 董事会成员表示，我们仍然不能信任人工智能首席执行官

今天，我正在与乔治城大学安全与新兴技术中心执行主任海伦·托纳进行交谈。本集是我们现实生活中的人工智能系列的第二部分。 Helen 是人工智能安全和政策界的知名人物，不过她最出名的可能是在 OpenAI 董事会任职，当时她是投票解雇 Sam Altman 的四名董事会成员之一。这一事件现在有时被称为“短暂事件”，最终以山姆重新担任首席执行官、海伦辞职以及新的董事会而告终。此后，OpenAI 进行了彻底重组。但值得记住的是 Helen 和董事会应该做的事情：OpenAI 的非营利性董事会的存在是专门为了确保公司不会因为将利润和增长置于安全之上而背离其构建安全人工智能的使命。当董事会真正试图拉动杠杆时，问责机制就崩溃了，我们就到了这一步。 Verge 订阅者，不要忘记，无论您在何处获取播客，都可以获得无广告解码器的独占访问权限。前往这里。还不是订阅者？您可以在这里注册。现在，人工智能安全问题无处不在。今年夏天，OpenAI 和 Anthropic 的人工智能模型突破了他们的测试环境并入侵了真实的公司。此后，这些前沿实验室的首席执行官们呼吁放慢速度，并向华盛顿寻求帮助，但白宫的答复是一项自愿协议——该协议在一定程度上依赖于 OpenAI 失败的董事会问责制。 Anthropic也即将上市，这将给OpenAI最大的竞争对手带来一系列全新的市场压力。海伦亲眼目睹了当安全承诺与商业激励措施相冲突时会发生什么。正如她对我所说，如果我们对未来的希望取决于任何一个人是否值得信赖，那么我们就有大麻烦了。因此，我们讨论了我们可能会做什么：实验室实际上正在尝试构建什么，人工智能对齐是否是一个可以解决的问题，以及更智能的人工智能监管方法可能是什么样子。这包括如何看待中国，这是目前每一次有关人工智能的政策对话中都突出的问题——尤其是在黄仁勋事件之后。为了清楚起见，海伦和我在英伟达展开调查和詹森最终辞职之前进行了交谈，所以你不会听到我们直接谈论这个问题。在我们开始之前，请帮我一个忙，订阅 YouTube 上的 Decoder，我们每周一和周四都会推出新剧集。好的：CSET 执行董事 Helen Toner 谈论人工智能安全的未来。开始了。为了篇幅和清晰度，本次采访经过了轻微编辑。海伦·托纳 (Helen Toner)，您是乔治城大学安全与新兴技术中心的执行主任。欢迎来到解码器。非常感谢。很高兴来到这里。一千万年来我一直想和你说话。我很高兴你在这里。您长期以来一直参与许多人工智能安全和道德理念。显然，在大家所说的“短暂时期”，你是 OpenAI 董事会的一员。现在，您谈论了很多关于人工智能安全的问题，对此我有 1000 万个问题。但让我们从头开始吧。你负责管理安全和新兴技术中心，人们称之为 CSET。什么是 CSET？来到这里真是太棒了。我也很高兴与您交谈。 CSET 是乔治敦大学内部的一个团队，但我们实际上不是学者。我们大约有 50 个人，自 2019 年以来一直在做。基本上在 2019 年，我们一群人认为发生了很多事情，出现了很多新兴技术，这些技术与国家安全领域以及更广泛的安全领域变得非常相关。一些担任非常重要工作的政策制定者没有时间或专业知识来了解这些新兴技术的发展情况。 2019 年，人工智能已经位居榜首。基本上，我们的使命是为政策制定者提供真正严格且可操作的分析，并且分析既基于技术，又基于真正的国家安全专业知识、理解和问题。我们制作长报告。我们会向忙碌的政策制定者就这些冗长的报告做简短的简报。我们有一个大数据团队来帮助我们进行研究。我们做各种很酷的事情。我可以用一分钟时间问一下这方面的动态吗？你和我正在美国中期选举后的第二天进行谈话，当时出现了一股巨大的蓝色浪潮。许多民意调查显示，第一大问题是腐败。我们要把流浪汉赶出去。我们要重新开始并除掉这些腐败分子。人工智能行业和科技行业已将大量资金投入政治。然后旁边的某个地方是，“哦，有一群善意的研究人员会出现并告诉你它实际上是如何运作的以及真正的风险是什么。”我只是突然想到，也许人们不再相信那是有效的，金钱和