微软人工智能首席执行官表示人工智能威胁是真实存在的，而人性化正在使情况变得更糟

今天，我正在与微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 交谈。毫无疑问，你已经意识到，目前科技领域最大的新闻是关于人工智能安全和监管的激烈争论。穆斯塔法对于如何构建和监管人工智能有着强烈的看法，这并不奇怪。微软刚刚发布了一份长达 37 页的声明，名为“人文主义人工智能行为准则”，其中阐述了该公司围绕人工智能开发的原则，甚至围绕人工智能意识等真正棘手的问题的理念。如果你还记得穆斯塔法上次出现在节目中的情景，他认为像 Anthropic 这样的公司已经以相当危险的方式对所谓的模型福利概念感到非常困惑。事实上，他本周发表了一篇配套文章，专门批评了人类关于人工智能意识的哲学，以及他如何看待它如何适应更广泛的联盟辩论。所以我真的很想和穆斯塔法谈谈他认为什么是真实的而不是人工智能安全，对齐的概念本身是否能够胜任这项任务，以及这个行业是否需要在它杀死我们所有人之前放慢速度。另外：为什么人工智能行业不……已经做这一切了？我一直很喜欢和穆斯塔法一起参与其中，他也很愿意和我一起参与其中。好的。微软人工智能首席执行官 Mustafa Suleyman 谈人工智能监管的未来。开始了。为了篇幅和清晰度，本次采访经过了轻微编辑。 Mustafa Suleyman，您是微软人工智能公司的首席执行官。欢迎回到解码器。很高兴见到你，尼莱。谢谢你让我回来。很高兴见到你。我很高兴能与大家讨论人工智能安全和监管争论中到底发生了什么。您刚刚发布了一份非常长、非常详细的文档，围绕您所谓的“人文主义人工智能”阐述了您的原则，微软的原则。里面有很多我想解开的想法。我对这次谈话思考得越多，我就越想从一个真正基础的问题开始。这是我无意中看到的东西，但可能是所有这一切的根源。我们一直在谈论人工智能安全的基本方式是所谓的“对齐”——我们将让模型以某种方式本质上做正确的事情。有一些机制可以做到这一点。关于对齐和错位、拥抱面部攻击以及模型发生的情况有很多讨论。但对齐是否被破坏了？有可能成功吗？这只是错误的方法吗？是的。我的意思是，我认为这是一个重要因素，但不是唯一的因素。三四年前，我在书中写到了遏制的想法。实际上，第一章的思想是遏制是不可能的，扩散是不可避免的。在 99% 的情况下，这确实是一件好事。我们希望技术尽快广泛传播，让每个人都能受益。我同时认为，如果你向前推进五年，我们总是会陷入下一个季度或明年，每个人都会有点慌乱并产生很大的分歧。但如果你只是想象一下三年前的 GPT-3 和今天的 GPT-6 之间的区别，然后再想象一下 GPT-6 和 GPT-9 之间的区别。这意味着计算量增加了三个数量级，针对这些运行使用[强化学习]进行预训练的 FLOPS 增加了 1,000 倍，我们将获得令人惊叹的结果。在很多事情上这绝对是令人难以置信的。我不认为这是炒作。我认为这只是基于过去五年所取得的进展的一个非常明显的经验陈述。如果这种情况继续下去，那么问题实际上将变成关于遏制和协调。当然，我们希望使这些东西与我们的价值观保持一致，但首先我们必须确保它们受到控制，它们的作用是有限的，它们不会逃脱盒子，它们不会奖励黑客，它们是可控的，并且它们遵循我们的指示。然后我们要确保它们符合我们作为人类的目标。这就是我们本周发布的《人文主义人工智能行为准则》的目的。微软的立场非常简单。科技是为人类服务的。它应该是一支从属的、可控的、一致的力量，为世界做好事。如果它不能实现这一点，那么我们应该拒绝它。在我看来，我们离那一步还很远。今天这种情况还没有发生，但现在已经发生了，我认为考虑到今年夏天 Hugging Face 和 OpenAI 所发生的事情，很明显这些没有安全护栏的系统具有令人印象深刻且相当可怕的黑客能力。我想尽可能地将其归结为一个隐喻，因为这是我认为我的主要问题。如果我设计一辆汽车，并且 10% 的情况下制动踏板决定去攻击我邻居的房子，我会说，“这辆车不起作用。技术本身