OpenAI老闆稱世界「應恐懼」但「應信任」AI 公司 黃仁勳籲勿作虛假取捨

BBC and Getty Images / 为什么唐纳德·特朗普如此反对对 AI 进行监管？（英语影片） OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，阿尔特曼表示：“世界应该相信我们会做正确的事，因为那就是正确的事，我们深切感受到它的重要性。” 然而，阿尔特曼指出，人们对 AI 的担忧是有道理的，因为这些工具的能力发展迅速。 他说：“现在我们不用像以前那样费脑筋，就能想像到这件事会如何出错。我认为全世界对此感到恐惧是有道理的。” 阿尔特曼的言论是在他出席由软件公司 Salesforce 主办的年度会议时发表的。 这是自上周一则帖子在网络上引发热议以来，他首次公开发言。该帖子的作者是一名已辞职的人工智能公司 Anthropic 研究员。这名研究员声称，如果不加以控制，人工智能可能会在 2020 年代末毁灭所有人类。 其他一些人工智能公司的高层和专家回应称，他们同意这个观点，但并没有解释他们是如何得出结论的，也没有解释 AI 究竟是如何毁灭所有人类。 这些说法引发的热议，近日促使外界对人工智能开发加强审视。作为回应，Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁所有人工智能开发放缓步伐，并敦促各国政府对该行业加以监管。 这篇文章获得了阿尔特曼的赞赏，谷歌（Google）旗下 DeepMind 联合创始人德米斯·哈萨比斯（Demis Hassabis），以及社交媒体平台 X 和人工智能助手 Grok 的所有者埃隆·马斯克（Elon Musk）也对此表示赞赏。 到周二为止，越来越多人工智能行业领袖表态支持行业自我监管，而非由政府介入。 阿尔特曼表示，他认为像自己公司这样的人工智能企业，基本上有能力进行自我监管。 阿尔特曼说：“我们会把这件事做好，我对我们公司和整个行业有能力安全地做到这一点非常有信心。”他还表示，他确信这些公司会“让对齐与安全远远领先于能力发展”，如果做不到，他们就会“放慢速度或停下来”。 Reuters / OpenAI是人工智能产业的领导者。 在阿尔特曼发言之后，Meta 首席执行官扎克伯格（Mark Zuckerberg）在 X 上写道，每一家人工智能实验室都有能力、也有动机“采取自己的行动”，去开发以安全为设计原则的人工智能工具和模型。 扎克伯格写道：“任何不重视对齐问题的实验室都会落后。”“各实验室若其模型造成损害，将面临重大法律责任，因此它们同样有强烈的动机去防止这种情况发生。” 英伟达（Nvidia；辉达）负责人黄仁勋（Jensen Huang）在周二同一场会议上也表示，是否发布新版本的相关技术，应由人工智能公司自行决定，而不应由外部力量来管理。 黄仁勋说：“我们不需要新的法律或法规。”他还表示，不应该在人工智能产品的创新速度和安全性之间做出“虚假的取舍”。 英伟达是全球市值最高的公司，其利润因市场对其生产的人工智能运算晶片的旺盛需求而大幅增长。 黄仁勋说：“安全至关重要。不过，安全本质上是一个工程问题。” 他还表示，如果任何时候一家人工智能公司的负责人对自家产品缺乏信心，就应该选择不发布该产品。 黄仁勋说：“这是显而易见的做法⋯⋯尽可能全速前进，但只要你感觉到机构已经失控，就应该暂停下来。” 一些业内人士认为，近期人工智能恐慌情绪被夸大了，而且正被人借题发挥，为行业制造炒作热度。 在会议期间，阿尔特曼向数百名商界人士发表讲话，告诉他们应该使用人工智能工具来辅助工作，但同时也需要这些工具来保护他们的企业免受潜在的人工智能网路攻击。 把人工智能行业完全交由其高管自我监管的想法，在业内一些人看来并不可取。 Anthropic 高管兼联合创始人杰克·克拉克（Jack Clark）周一（14日）告诉BBC，放任人工智能成为一个“完全不受监管的行业”，是“拿着巨大风险在掷骰子”。 Logical Intelligence 公司首席运营官帕特里克·希尔曼（Patrick Hillman）周二指出，人们对科技公司真正为公众利益做任何事都缺乏信心。这家公司的董事长是被视为人工智能行业泰斗的杨立昆（Yann LeCun）。 希尔曼说：“如今，美国人最不信任的机构可能只有矽谷了，其次才是华盛顿。我在矽谷和华盛顿都工作过，也都生活过我可以向你保证，这种不信任都是它们自己招来的。” 他还说：“如果你们自己也认为正在打造的东西是危险的，那就拿出实际行动，证明你们准备停止做哪些事情。” OpenAI 和 Anthropic 的领导人表示，他们最近已开始努力达成某种行业范围内的安全协议。 阿莫代伊在周二的会议上短暂露面时表示，Anthropic 目前正与业内其他公司就致力于提高 AI 工具和开发的安全标准和检查进行“对话”。 他还表示，人工智能热潮带来的最大意外之一，并不在于这项技术本身的进步，而在于其更广泛的影响。 阿莫代伊说：“我们当时没有意识到，这会让相关公司发展得如此之快，也没想到它们会这么快就变得对各个领域如此重要。” OpenAI 高管克里斯·勒汉（Chris Lehane）上周表示，该公司也在与其他人工智能实验室合作，“推进前沿人工智能标准，目前正在建立一项自愿性的行动机制，无论是否获得政府支持都会推进”。这些实验室包括 Anthropic 和谷歌 DeepMind。 “事关重大，我们不能让完美成为优秀的敌人，”勒汉写道。 本文原以英文撰写，我们使用了人工智能协助翻译，并由BBC记者在发布前进行审核。 了解更多关于我们如何使用人工智能的资讯 。