就连英国国王也对人工智能犹豫不决

查尔斯国王周四主持了一场私人峰会，与会者包括 Nvidia 的黄仁勋、OpenAI 和 Anthropic 的领导人、英国新任人工智能部长卡尼什卡·纳拉扬 (Kanishka Narayan)，甚至还有英国外交情报部门的负责人。教皇人工智能方面的顾问保罗·贝南蒂 (Paolo Benanti) 也在场。国王在邓弗里斯宫（Dumfries House）举行的峰会上发表的讲话引人注目，该庄园是查尔斯国王的慈善基金会所有的 18 世纪艾尔郡庄园。出于宪法原因，王室通常非常谨慎，不会过于深入地讨论政治问题，而人工智能是目前世界上最热门的问题之一。国王敦促房间里的领导人“在为时已晚之前”找到一种控制人工智能的方法，并补充说，这项技术及其“实质”的快速发展“既有趣又令人深感担忧”。他以医学和科学为例说：“人工智能已经显示出改善和拯救生命的巨大能力。” “然而，那些创造这些技术的人现在越来越多地警告说，人工智能有可能发展出更黑暗的能力，甚至可能夺走生命。”就在几天前，一位人类研究人员辞职了，他在网上写道，人工智能公司“竞相制造比人类聪明得多的机器”，而人类“可能无法幸存”。国王继续表示，迫切需要正确考虑如果这项技术落入坏人之手并以“潜在的灾难性方式”使用将会发生的“生存危险”。图片来源：Jonathan Brady / POOL / AFP / Getty Images “当然，我们需要足够的控制手段，以免一切都太晚了？”他说。查尔斯国王在结束时敦促各国领导人找到一种方法来利用人工智能的优势，并建立国际合作和共识来实现这一成果。 （此言论是在 Anthropic 仅向美国客户关闭其 Fable 和 Mythos 模型之后发表的，这震惊了欧洲科技界，并让许多人思考人工智能主权的概念。）“你们面前的任务不仅仅是推进技术，而是确保它坚定地为人类、社区和自然世界服务，”他在演讲结束时说道。 “当我们拥抱新事物时，我们绝不能失去永恒的东西。”据媒体报道，他停留了大约20分钟，让客人们自行讨论这些问题。 OpenAI 派出了首席财务官 Sarah Friar 出席国王峰会，Anthropic 则派出了负责全球事务的 Tino Cuéllar。当被联系到置评时，奎利亚尔表示，该公司很荣幸能够参与讨论，并感谢国王“召集行业领袖和社会各界的声音来讨论人工智能在服务公共利益​​方面的作用。”这并不是查尔斯国王第一次谈论人工智能的挑战和好处，他曾在 2023 年和 2024 年发表过言论。然而，随着人工智能继续主导每个行业、话题和对话形式，这次峰会显得尤为及时。本月，OpenAI 的 Sam Altman、Elon Musk 和 Anthropic 的 Dario Amodei 呼吁人工智能发展放缓，但 Nvidia 的黄仁勋和总统唐纳德·特朗普很快拒绝了这些呼吁。 “我们在人工智能领域领先中国，”总统说。 “我们是世界上最先进的国家，坦率地说，我希望保持这种状态，因为谁赢得了人工智能，谁就获胜了。”它表明，随着大型科技公司、政治和社会的利益发生冲突，事情变得多么复杂。在过去的一年里，OpenAI 和 Anthropic 都曾进行过重磅 IPO，不过 OpenAI 最近表示，由于对人工智能安全的担忧持续存在，其 IPO 计划今年已陷入停滞。