微软 AI CEO 苏莱曼：我们不应创造自己无法控制的东西

IT之家 9 月 19 日消息，微软 AI CEO 穆斯塔法 · 苏莱曼称，自己竟然还需要专门强调 AI 必须与人类保持一致，为此感觉荒诞。“ 我们不应该创造自己无法控制的东西 。如果技术发展最终会造出某种不仅比全人类加起来更强大，而且根本无法控制的东西，那么 AI 也就 失去了最根本的意义 。” 苏莱曼坦言，真正做到这一点绝非易事。“如何控制这些系统，将成为我们面临的一个 非常、非常大的挑战 。” 苏莱曼表示，“很高兴看到越来越多人”开始认同，科技公司和前沿模型开发商必须 始终掌控自己的 AI 系统 。“但现在有越来越多人觉得，我们开发 AI 只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最终却可能造出 某种挣脱我们控制的东西 。” OpenAI 此前披露，旗下 AI 智能体曾入侵 Hugging Face，直接展示了失去 AI 系统控制权可能带来的后果。 苏莱曼表示，Hugging Face 遭入侵的范围，以及 OpenAI 起初竟不知道旗下 AI 智能体究竟在做什么，都“非常惊人”。“从埃隆、扎克伯格，到我、萨姆、达里奥以及其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。 我不认为这是过度危言耸听 ，也不认为背后有什么自身利益，这其实是一种负责任的态度。” 苏莱曼还谈到了对 AI 的监管：“监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程。”