人工智能行业真的准备好放慢脚步了吗？

我们看到一场关于人工智能安全和潜在放缓的大辩论，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 最近发布了一项“引领前沿”的计划，而英伟达首席执行官黄仁勋 (Jensen Huang) 公开回应了唐纳德·特朗普总统的说法，即人工智能的强烈反对是一个骗局，监管是不必要的。在最新一期的 TechCrunch 股票播客中，Kirsten Korosec、Sean O’Kane 和我讨论了 Amodei 和 OpenAI 首席执行官 Sam Altman 等高管是否真的想放慢脚步。虽然我对有如此多的行业领导者似乎支持阿莫代的计划感到惊讶，但肖恩指出，该计划似乎缺乏细节。当克里斯汀询问现有监管和自由市场运作的结合是否可以单独提供足够的保障时，肖恩回答说，“目前我们的联邦政府似乎并不急于广泛执行监管，更不用说具体而言了。”另外，他认为，“似乎并没有大量的消费者选择推动这个市场，从某种意义上说，好吧，如果其中一家公司做了一些非常糟糕的事情，那么他们就会看到有多少取消订单或其他什么的影响。”继续阅读我们的对话预览，我们的对话经过了长度和清晰度的编辑。安东尼·哈：肖恩，你觉得怎么样？我们真的要“走在前沿”吗？肖恩·奥凯恩：出于某种原因，这听起来像是《Point Break》中的东西。这只是一个非常加州的声明，比如，“我们要在边境上踱步，兄弟。”我不知道。我上周在这个节目中说过，我不认为我们会出现任何形式的放缓，很大程度上是因为我不认为这些公司的结构是有效的。因此，这与我一周前所说的完全相反，从 Anthropic 的 Dario 和 OpenAI 的 Sam 甚至 Elon Musk 那里听到了这一点，在某种程度上，我们可以讨论我们是否相信这一点。我想说，我不认为我完全错了，因为即使达里奥在博客文章中提出了这些松散的计划，而且其他一些领导人也谈到了这些计划，我觉得我们仍然缺少很多细节，不仅是关于为什么这些人认为存在危险和风险的一些说法，而且还包括他们所说的放慢速度的具体细节。安东尼，我知道你上周末仔细阅读了这些内容，因为它都是突然出现的，所以我很好奇你是否可能比我更慷慨，就理解他们在这里想说的内容而言。安东尼：我的意思是，我也有问题。真正令我印象深刻的是，业内有如此多的人似乎很快就围绕这个问题团结起来。甚至在阿莫迪发表他的博客文章之前，我就看到其他人发布了这个[计划]的一些版本，就在它发布之前的几天。我的理解是，这些建议来自人工智能安全社区；这些事情已经渗透了一段时间了。它们不仅仅是[阿莫迪]自己想出的东西。但似乎很多人已经准备好接受这一点，并且在某些方面，看到达成共识是令人鼓舞的。但这也让我有点怀疑这是否代表着真正的、迈向经济放缓的重大步骤。 Kirsten Korosec：首先，达成共识可能是一件好事。此外，这也可能是形成卡特尔的开始。因此，让我们明确一下我们在这里谈论的是谁。我们谈论的是前沿人工智能实验室。这是具体且重要的。你在一分钟前确实说过细节还不太清楚，但我们确实知道这里的总体想法是独立的第三方评估员将介入，在 Anthropic 或 OpenAI 等[公司]内部工作，并监控人工智能安全实践和事件。但这有很多模糊之处。还有另一项建议是让民主国家的主要人工智能公司在安全标准和限制方面进行协调。然后是这个国际协调件。这些是围绕此的一般想法。我还要补充一点，来自特定人群的强烈反对。令人惊讶的是，我认为有些人不会反对这一点。我想，最明显的一个就是 Nvidia 的首席执行官黄仁勋 (Jensen Huang)，他说了一些漂亮的话。我不知道你们中的任何一个人对他的一些评论以及他在舞台上（在全面峰会上）接到特朗普总统的电话有什么看法 肖恩：我认为詹森明白，在某种程度上，他被视为房间里的成年人。这很有趣，因为我认为这种动态已经改变了。如果你问一年前、大约两年前的人们，当这些人工智能公司真正开始大规模爆发时，谁在扮演这个角色，我想很多人都会指出微软和萨蒂亚·纳德拉，而且我觉得微软——由于一些我们现在不需要讨论的原因——失去了作为成年人的控制力。