微软总裁表示英国最适合推动人工智能监管

微软总裁布拉德·史密斯呼吁对人工智能进行紧急监管，他的论点是，牛奶和洗衣机等消费品比构建人工智能的公司受到更多监管。在最近的 BBC 播客中，史密斯称人工智能既是一种“武器，也是一种工具”，它正在将世界的网络安全置于危险之中，并表示制定全球安全规则的“时刻已经到来”。史密斯还表示，最有资格领导全球安全规则的是英国，而不是美国或欧盟。英国人工智能安全研究所于 2023 年成立，在部署之前可以访问美国前沿实验室的主要模型，并迅速成为人工智能安全测试领域的领导者。最近几周，这一角色一直受到威胁，美国总统唐纳德·特朗普警告“全球主义”组织，他声称这些组织正在干扰美国公司。据报道，上个月，他要求 Anthropic 和 OpenAI 拒绝向英国测试人员提供新模型，但 AISI 周一证实，它能够访问和测试最新模型。然而，尽管总统反对，史密斯认为英国可以以美国无法做到的方式监管人工智能。 “在华盛顿特区，人们看待英国和伦敦的方式与看待布鲁塞尔的方式不同，”他告诉 BBC。 “这是一种力量。”在他发表上述言论之际，包括 Anthropic 的达里奥·阿莫迪 (Dario Amodei) 和 OpenAI 的萨姆·奥尔特曼 (Sam Altman) 在内的科技领袖在发生几起人工智能代理失控事件后呼吁放慢人工智能的发展步伐。上个月，特朗普在白宫接待了 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和谷歌等公司的技术领导人，讨论人工智能安全问题。他们签署了一份“具有道德约束力”的文件，其中同意与“独立审计师”合作，评估其人工智能模型的安全性和功能。史密斯表示，该文件是“良好的一步”，但它没有达到必要的监管类型。他说，自愿自我监管的问题在于“好公司”会遵守。 “你需要担心的是那些不那么负责任的公司，”他说。史密斯概述了他希望实施的几项人工智能安全规则，例如如果组织的系统被流氓人工智能代理破坏，则有法律义务向组织发出警报。他似乎还支持人工智能实验室在人工智能产品发布之前获得外部评估者的批准，并积极谈论如果人类失去对人工智能的控制，可以暂停或减慢人工智能的终止开关。史密斯说：“让我们冷静地说话，甚至可以轻柔地但坚定地说话，并开始将人们聚集在一起。” “我希望这就是我们作为一家公司可以扮演的角色。我希望这就是英国作为一个国家可以扮演的角色。”