Nvidia 的 Jensen Huang 表示，我们不需要人工智能监管——把安全留给我们

Nvidia 创始人兼首席执行官黄仁勋周二在 Salesforce 的技术会议 Dreamforce 上发表讲话时，非常明确地表达了他对人工智能带来的危险的立场。对他来说，人工智能并不是某种新形式的“外星人思维”，正如至少一位 OpenAI 安全研究人员所描述的那样。他说，这只是人类建造的硬件和软件。在他看来，这意味着它可以由人类和现有法律控制。 “安全是一个工程问题，而不是法律问题，”他说。 “我们毕竟是在开发软件。我们毕竟是在开发计算系统。这是一个复杂的计算系统，但它最终是一个计算系统。”因此，他认为不需要新的法律或法规来管理它。事实上，黄认为根本不需要新的法律。他认为，自由市场将足以迫使公司不要发布不安全的产品。 “如果我们对产品的安全性没有信心，就像所有公司一样，就像你和我，这里的任何一家公司，如果你开发了一种产品或服务，并且你对其功能、能力或安全性没有信心，那么就不要发布它。所以这是一件非常明显的事情，”他说。他继续说道：“你要调整自己的节奏，直到你确信你正在发布市场会欣赏的东西。市场力量已经存在。我们不需要任何新的法律。我们不需要新的法规。我们只需要公司决定何时尽可能快地运行。我认为创新、速度和安全产品……这是一个错误的选择。你绝对可以同时拥有这两者。所以尽可能快地运行。但如果你在任何给定的时间点感觉公司已经出局了控制，否则产品将不安全，你知道，暂停一下并确保你做对了。”从某些方面来说，这是一个令人欣慰的想法。如果世界上有人了解人工智能，那就是 Nvidia 的创始人，早在 ChatGPT 出现之前，他就一直在构建人工智能的硬件大脑，现在经营着一家还生产开源模型、代理、线束和沙箱的公司。话又说回来，如果我们是愤世嫉俗的话，那么对于一个因人工智能繁荣而过得如此滋润的人来说，他的观点也并不令人意外。为什么他希望监管出台并增加一层障碍，从而减缓英伟达销售更多人工智能系统和软件的步伐？正如他在采访中所说：“我比以往任何时候都更加雄心勃勃。由于我们的雄心壮志，以及人工智能带来的产品生产力提升，天空是我们的极限。天空是我们公司的极限。天空是每个行业、每个国家的极限。”不幸的是，即使是有最好意图的公司也会推出有缺陷的产品，带来意想不到的后果，甚至是软件。还记得 2024 年 CrowdStrike 蓝屏死亡惨败吗？该事件导致数千架航班停飞，并对企业造成其他严重破坏？还有一些公司被指控故意哺乳，意图不怀好意。 Meta 刚刚支付了 180 亿美元来了结有关社交媒体伤害儿童的诉讼。无论意图或安全测试涉及什么，人工智能也已经造成了伤害，从 OpenAI 模型入侵 Hugging Face，到因与聊天机器人进行长时间对话的年轻人自杀而起诉人工智能实验室的诉讼。 “别管他们”的策略，即让这些公司发布他们认为合适的产品，就社会而言，这可能是一种不明智的人工智能安全方法。尽管黄是对的，现有的产品责任法可能会涵盖人工智能——如果在足够的案件通过法院来检验这一理论之前，人工智能不会以某种方式杀死我们所有人。他没有讨论另一条似乎即将成形的路线：行业自律。黄的方法更多的是支持开放权重模型和公司使用它们作为专有人工智能实验室的竞争力量。但目前，该行业建立自我监管和鼓励世界各地的人工智能实验室（甚至中国的人工智能实验室）看到参与的明智之举的时间很短。正如微软首席执行官萨蒂亚·纳德拉周一在 All-In 峰会上所说，“如果美国关心他们，中国也应该深切关心同样的安全问题，对吧？为什么他们的情况会有所不同？他们并不是不会遇到同样的黑客问题。这并不是说他们不想确保他们的公民从人工智能中受益，就像我们希望我们的公民从人工智能中受益一样。”不过，就目前而言，如果黄仁勋反对任何新的人工智能法规，他的影响力可能足以达到他的目的。他本周还表明，毫不夸张地说，他听取了特朗普总统的意见。