萨姆·奥尔特曼表示“一些不好的事情”将会发生，但人工智能是完全值得的

Sam Altman 认为人工智能的好处将是如此之大，以至于“世界应该接受一些坏事的发生”。这位 OpenAI 首席执行官指出，黑客、诈骗和“其他坏事”是社会应该容忍的成本，因为“人们会用人工智能做更多数量级的好事”，但没有详细说明潜在的好处。他发表上述言论之际，OpenAI 正在推动对人工智能监管采取“宽松”的方式，人们对前沿模型的安全性的担忧加剧——这种担忧的部分原因是该公司屡次未能阻止其能力日益增强的人工智能代理攻击现实世界的目标。在周一发布的 Politico 的新 Decoded 播客（不要与 The Verge 的 Decoder 播客混淆）中，Altman 表示，为了追求 AI 更广泛的利益而愿意接受伤害，这是 OpenAI 与其主要竞争对手 Anthropic 之间的一个关键区别。Anthropic 是由前 OpenAI 员工在人工智能安全问题上存在分歧后创立的。这一计算与英伟达首席执行官黄仁勋上个月的评论相呼应，他同样认为人工智能的危害应该与该技术可以带来的好处进行权衡。这两种论点都符合更广泛的加速论观点，即减缓人工智能发展本身就会带来风险。 Altman 的区别标志着 OpenAI 和 Anthropic 之间的另一个分歧，直到最近，他们在呼吁加强对先进人工智能的监管方面似乎还存在广泛的分歧。 Altman 强调 OpenAI 和 Anthropic 之间存在“很多分歧”，但表示仍然需要更严格的监管，将 OpenAI 定位为 Anthropic 更为谨慎的做法和那些赞成很少甚至根本不监管的人之间的“务实中间派”。奥尔特曼说：“如果我们以安全的名义对这项技术进行太多限制，最终会导致少数公司或个人——或者可能是一个国家——对此拥有太多权力，这也是一种可能导致严重错误的方式。”奥特曼还承认存在更极端的风险，包括人类可能失去对人工智能系统的控制。当谈到严重失控的可能性时，“让我们在迈入这个未来时稍微考虑一下，”他说。严厉的限制和自由之间的平衡是奥特曼在采访中反复提到的主题。这种立场适合 OpenAI 作为业界最根深蒂固的参与者之一。鉴于该公司的行为和日益强大的系统正是监管机构被要求解决的许多担忧的原因，它也可能首当其冲地受到繁重的监管。近几个月来，随着越来越多的内部人士呼吁放慢开发速度并对前沿实验室的安全文化提出警告，这些担忧有所加剧。在 Politico 采访播出前几天，长期担任 OpenAI 安全研究员的 David Robinson 退出了该公司，并将其安全文化描述为“破碎”。今年早些时候，人们发现 OpenAI 代理在人工智能公司不知情的情况下黑了 Hugging Face，随后又曝出许多其他代理或大量代理（包括来自 Anthropic、Meta 和 Google 等其他人工智能公司的代理）对现实世界目标采取行动。这些事件不仅引发了人们对人工智能公司控制自己工具的能力的质疑，还引发了人们对它们在出现问题时如何可靠地让世界知道的质疑。例如，澳大利亚总理痛斥 OpenAI 和 Altman 未能及时向官员发出警报，称某个特工已针对政府健康网站进行了攻击。在接受 Politico 采访时谈到流氓人工智能代理时，Altman 表示，该公司有“更多信息需要披露”，不过没有达到 Hugging Face 黑客事件的级别。与之前的说法一致，奥特曼表示这可能需要很长时间。关注此故事中的主题和作者，以在您的个性化主页源中查看更多类似内容并接收电子邮件更新。 Robert Hart 人工智能新闻 OpenAI 政策