AI 放缓的争论让 Salesforce 的派对崩溃了

周二早上，格温·史蒂芬妮 (Gwen Stefani) 身着紫色和格子呢服装，带着她 2002 年的单曲《Underneath It All》来到旧金山一个挤满人的会议中心，但她只是热身而已。表演结束时，史蒂芬妮大喊“Dreamforce！我们走吧！”在 Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 步入聚光灯之前，他对着方格麦克风说道。 Dreamforce 被宣传为世界上最大的企业软件会议，但感觉更像是参加一个大型教堂——尤其是今年。贝尼奥夫在观众中漫步，发表他的《梦想力量》布道，随后一台带轮子的遥控摄像机将他的脸投射到悬挂在巨大房间天花板上的屏幕上。几分钟之内，他就列出了 Salesforce 的年收入图表，该公司预计 2027 年收入将突破 460 亿美元，部分原因是对其人工智能产品的需求。观众鼓掌。但整个事件笼罩在一个黑暗的问题上：人工智能真的值得我们冒着生命危险吗？在代理构建仪表板的华而不实的软件演示之间，与会者观看了硅谷领导人辩论人工智能行业是否应该继续前进，或者政府是否需要放慢人工智能进展以防止该技术产生的灾难性风险。上周，人工智能研究员雅各布·考克森 (Jacob Coxon) 从 Anthropic 辞职，并公开警告说，那些竞相自我改进人工智能系统的公司正在“拿我们的生命做赌注”。到了周末，其他 Anthropic 员工也表达了他的担忧，首席执行官达里奥·阿莫迪 (Dario Amodei) 敦促世界领导人帮助“引领人工智能发展的前沿”。其他人工智能首席执行官随后开始支持这个想法，其中包括 Amodei 最大的竞争对手、OpenAI 的 Sam Altman。但并不是所有人都同意这个想法。白宫人工智能顾问大卫·萨克斯（David Sacks）对阿莫迪的建议和对人工智能末日的担忧不予理睬，称其“只是监管捕获的又一尝试”。特朗普总统本周更进一步，称对人工智能存在风险的担忧是“一场骗局”。尽管政治环境充满挑战，国会仍试图利用这一时机推动立法来规范人工智能行业。在台上，身高 6 英尺 5 英寸的贝尼奥夫比 Anthropic 的首席执行官高出一截，在询问他对人工智能进展的最新评估之前，他用力与阿莫迪握手。虽然这无疑是贝尼奥夫的表演，但 Anthropic 已成为帮助 Salesforce 进入人工智能时代的重要合作伙伴。 “假设你正在经营一家汽车公司，而另一家汽车公司，不是你的，他们发生了某种安全事件，”Amodei 说，毫不隐晦地提到了 OpenAI 的 Hugging Face 事件。 “显然，攻击你的竞争对手是非常诱人的，”阿莫代补充道，但更负责任的举动是“组织行业的其他成员，并说，我们能做些什么来为每个人制定标准？”但这位 Anthropic 首席执行官谨慎地指出，开拓前沿并不意味着“冻结技术”，当然，他花了一些时间来插入 Claude 与 Salesforce 的集成。阿莫迪退出后不久，英伟达首席执行官黄仁勋出现并开始淡化 Anthropic 提出的担忧。黄认为，人工智能安全实际上相当于一个“工程问题”，构建人工智能的公司可以简单地自我监管。 “我们不需要任何新的法律，我们不需要任何新的监管，”黄告诉 Dreamforce 与会者。 “你尽可能快地跑，但如果你觉得在任何特定时间点，公司失控或产品不安全，你就会停下来。”对于 Dreamforce 来说，这场辩论感觉有点沉重，但话又说回来，也许这是一个完美的场所。当科技高管推销他们的各种企业人工智能工具时，我溜出房间，经过毛绒吉祥物和隐约夏威夷装饰，去接加州大学伯克利分校即将上任的计算机科学教授萨亚什·卡普尔(Sayash Kapoor)的电话。