英国立法者对人工智能的混乱之夏感到惊慌

在一位人类团队领导人发帖表示：“我们确实真诚地相信人工智能可以杀死所有人类！”之后，一位英国主要政治家敦促联合国干预“超级智能的不安全发展”。工党议员达伦·琼斯在一封致英国首相和国际经济合作与发展组织的公开信中写道，无论是“营销炒作”还是真正的灭绝威胁，“政府必须介入”。琼斯是最新一位努力寻找方法保护英国公众免受人工智能安全威胁的立法者。就在一天前，工党议员亚历克斯·索贝尔(Alex Sobel)提出了一项议会法案，提议禁止“超级人工智能的开发、部署和运营”——在任何任务上都可以完全取代并超越人类的系统。该立法还将赋予政府在供应链不同环节（包括芯片层面）监控和控制技术开发的权力。索贝尔在介绍该法案时表示：“我们并不是唯一在这方面努力的人。”他指的是美国政府 6 月份对 Anthropic 的《神鬼寓言 5》和《神话 5》模型实施的临时出口禁令。 “如果历来被认为反对人工智能监管的特朗普政府可以考虑对过于强大和危险的模型划定界限，那么我们不问我们应该采取什么反应就会很奇怪，”他说。来自各政党的议员都在该法案上署名，其中包括工党议员杰西·阿萨托 (Jess Asato)，她正在起诉埃隆·马斯克 (Elon Musk) 的 xAI，因为据称 xAI 的 Grok 聊天机器人被用来生成她的虚假性感图像。近几个月发生一系列人工智能代理失控事件后，立法者越来越担心人工智能对国家安全的威胁。他们希望引入针对最坏情况的防护措施，例如这些系统夺取关键基础设施的控制权并运行复杂的影响操作。 7 月份，OpenAI 模型的 Hugging Face 黑客事件逃脱了遏制，“这就是为什么我们迅速采取行动，对超级智能人工智能进行监管和立法变得更加重要，”索贝尔告诉《连线》，“因为人工智能正在快速发展，我担心开发者并不知道其中到底有什么。”不同寻常的是，议会法案是由非营利组织 ControlAI 起草的，该组织得到了 Skype 创始工程师、前 DeepMind 投资总监 Jaan Tallinn 的支持。该公司由 Andrea Miotti 创立，他此前曾在人工智能安全初创公司 Conjecture 工作，但他告诉《连线》杂志，他想让公众和政策制定者意识到“发展超级智能可能导致人类灭绝”这一“公开的秘密”。 Conjecture创始人康纳·莱希(Connor Leahy)现在领导ControlAI的美国部门，该部门就伯尼·桑德斯(Bernie Sanders)和格雷格·卡萨尔(Greg Casar)禁止超级智能发展的法案提供咨询，此外还向近200个国会办公室和20多名参众两院议员介绍了超级智能的灭绝风险。索贝尔将于 11 月提交完整的法案。虽然他承认英国政府很少接受这样的私人立法，但索贝尔希望这可能会引导政府与其他国家合作制定国际禁令。索贝尔此前曾试图在网络安全和弹性法案中引入“终止开关”，这将允许政府拔掉任何托管人工智能代理的数据中心的插头，但没有成功。该机制也是由 ControlAI 提出的，类似于美国共和党和民主党议员推动​​的一项法律。时任前总理凯尔·斯塔默 (Keir Starmer) 手下的人工智能部长卡尼什卡·纳拉扬 (Kanishka Narayan) 否决了该法案，并指出该法案已经允许政府有权在网络和信息系统受损导致国家安全风险时进行干预。他指出，这可能包括要求实体停止使用并隔离人工智能模型。