人工智能代理是黑客系统。这会推动美国和中国合作吗？

长期以来，人工智能竞赛一直被认为是一场零和游戏：美国或中国最终将获胜。但随着人们对人工智能模型（尤其是人工智能代理）能力不断增强的担忧不断增加，两国的研究人员正在尝试合作研究人工智能安全问题。本周，佐伊·希弗 (Zoë Schiffer) 与资深作家威尔·奈特 (Will Knight) 谈论了他今年夏天访问中国时的所见所闻，以及为什么两国实际上可能需要开始合作以避免一场重大的人工智能灾难。这是我们暑假系列的第二集。我们将在下周回来举行我们通常的圆桌会议。本集提到的文章：您可以通过 @zoeschiffer 关注 Zoë Schiffer 在 Bluesky 上的关注，以及在 @willknight 上关注 Will Knight 在 Bluesky 上的关注。请通过 [email protected] 给我们写信。如何收听 您始终可以通过此页面上的音频播放器收听本周的播客，但如果您想免费订阅以获取每一集，请按以下步骤操作：如果您使用的是 iPhone 或 iPad，请打开名为“播客”的应用程序，或者只需点击此链接 。您还可以下载 Overcast 或 Pocket Casts 等应用程序，然后搜索“恐怖谷”。我们也在 Spotify 上。文字记录 注意：这是一份自动文字记录，可能包含错误。 Zoë Schiffer：这是《连线》杂志的《恐怖谷》。我是佐伊·希弗 (Zoë Schiffer)，特约编辑。如果你今年夏天一直在关注科技新闻，而且肯定一直在听这个节目，你可能已经知道中国经常成为头条新闻，特别是在人工智能竞赛方面。该国的开放模式继续缩小与美国前沿模式的差距，一些人估计成本仅为美国前沿模式的一小部分。反过来，美国则维持对芯片的严格限制和出口管制，以减缓中国的崛起。我们认为人工智能的进步在很多方面都是零和的，如果中国赢了，美国就会输，反之亦然。但存在一个真正跨越这些界限的担忧，那就是人工智能的安全。档案音频：在 OpenAI 和 Anthropic 的人工智能代理多次突破其外壳后，人工智能网络安全风险已成为人们关注的首要问题。 Zoë Schiffer：人工智能代理黑客平台的消息在今年夏天增加了这个问题的紧迫性。反过来，政府官员也被迫关注人工智能监管并采取行动。档案音频：特朗普总统签署了一项行政命令，要求科技公司在新的人工智能模型公开发布之前给予政府监督。 Zoë Schiffer：那么，美国和中国真的能从合作中受益吗？怎样才能实现这一目标呢？今年夏天早些时候，《连线》杂志资深记者威尔·奈特访问中国寻求一些答案。威尔·奈特，非常感谢你来到这里。威尔·奈特：谢谢你邀请我。 Zoë Schiffer：好的，我想从你的旅行开始。今年夏天早些时候你去了中国，当时我们在美国并没有听到太多有关人工智能安全的信息。事实上，随着特朗普在白宫的第二个任期，美国需要赢得框架，而人工智能安全几乎开始听起来像是反增长。但我很好奇你在中国听到和看到的人工智能安全方面的情况。