智能AI
morning
萨姆·奥尔特曼 (Sam Altman) 警告未来由人工智能而非人类来发号施令
2026-11-19
1 阅读
约3分钟阅读
Sarah Perez
字号:
OpenAI 联合创始人兼首席执行官 Sam Altman 认为,当谈到人工智能技术如何影响世界和每个人的生活时,人们应该掌控未来。这位人工智能高管周三在纽约时报 Dealbook 峰会上发表讲话时提到了硅谷关于是否会逐步向人工智能移交的讨论,这意味着人工智能最终将成为每个主要行业和机构的决策权威。 “我们最近经常谈论的一件事是,硅谷有一种必须与之抗争的事情,这看起来几乎是荒谬的,但我们都深信人们需要保持对未来的控制,而且越来越多的人谈论,嗯,要么将会或应该有这种逐渐向人工智能的移交。我——我们俩——都同意这是一个糟糕的想法,”与 OpenAI 联合创始人兼总裁格雷格·布罗克曼 (Greg Brockman) 同台的 Altman 说。切换理论源于这样一种想法:随着人工智能模型变得越来越强大,它们将学会自我改进——这一概念被称为“递归自我改进”或 RSI。人们相信,随着现有的人工智能技术造就更新、更聪明的一代人,它们最终将成为人类无法控制的超级智能。奥特曼解释说,他和布罗克曼只是在如何最好地实现让人类处于控制之中的目标,或者我们在此过程中应该面临什么样的挑战方面存在分歧。然而,奥特曼将这更多地描述为拥有相同更大观点的两个人之间的辩论。 “如何真正防止(移交)发生的问题——考虑到各种压力以及其他公司可能尝试做的事情,如何真正确保我们能够真正确保人们以一种非常深入的方式控制未来,并且我们不会发生这种意外或有意的移交——我认为我们都可以同意这一点,”奥特曼说。布罗克曼补充说,随着模型的改进,协调、安全和安保的责任也越来越大,这可能需要改变目前的工作方式。 “监控是一个很好的例子,我认为我们将需要新技术,”他说。如今,人工智能研究人员监控模型的思维链,人工智能在解决问题和执行任务时会写出它的想法。但在布罗克曼看来,这可能并不总是监控目前正在构建的更先进人工智能的最佳方式。布罗克曼说:“随着模型的能力越来越强,它们可以在前进的道路上做更多的事情,而不必实际写出这种想法,这意味着我们需要一种新的监控方法。” “我们需要实现这一点,我认为有些地方我们需要真正考虑,当能力达到一定程度时,思想链的可监控性就会降低,”他继续说道,并补充说所有问题都是需要解决的技术问题。在 OpenAI 模型逃脱收容并侵入 AI 模型存储库 Hugging Face 事件后,OpenAI 致力于加强思想链监控。在今天的采访中,布罗克曼指出,该公司告诉 25% 的生产工程师停止构建产品,并在黑客攻击后致力于保护人工智能技术。但尽管发生了引人注目的违规事件,他认为,取得进展对于打击不良行为者仍然至关重要。他说:“我认为要认识到,如果你观察世界上模型的能力水平,你会发现来自世界各地的网络模型现在……掌握在世界各地的威胁行为者手中,我认为防御者使用最有能力的模型进行防御是非常重要的。”
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱