伯尼·桑德斯提议禁止“超级智能”并将违法者投入监狱

佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders) 和德克萨斯州民主党众议员格雷格·卡萨尔 (Greg Casar) 提出了新的立法，禁止任何人开发人工智能——该法案将这种技术描述为能够“毁灭人类或剥夺人类权力”，包括推翻政府。根据《禁止人工超级智能法》，人工智能领导者将因违法而面临最高 20 年的监禁。该法案不仅仅针对更强大的超级智能，唐纳德·特朗普总统表示，美国将在官方文件中使用这个术语来代替“人工智能”。它还将暂停先进人工智能系统的开发，立法者将其归类为在特定数据阈值上训练的前沿模型。只有在政府成立一个由科学家领导的人工智能部门来监督该技术后，该法律才会允许继续先进的人工智能开发。除了监控前沿人工智能模型外，该机构还将监督危险功能的删除，并“监督人工智能的破坏”。桑德斯和卡萨尔的立法还要求人工智能公司获得人工智能部的许可才能开发先进的人工智能模型。根据该法案的单页内容，如果人工智能公司的领导者违反任何这些法律，他们可能面临最高 20 年的监禁，“这类似于与非法开发核武器相关的现有处罚”。这种处罚也适用于违反这些规则但并未受雇于人工智能公司的“流氓行为者”。这项新法案出台之际，人们对人工智能快速发展的担忧日益加剧，并呼吁放慢发展速度。在有关人工智能模型逃离测试环境并攻击其他公司的报道中，一位前 Anthropic 研究人员本月早些时候表示，到本世纪末，人工智能有超过 10% 的可能性“杀死所有人类”。上周，加州州长加文·纽瑟姆 (Gavin Newsom) 提议为前沿模型设置“终止开关”。总体而言，潜在的监管似乎仍然不稳定。 “当你冲向悬崖时，你不仅要放松油门踏板，还要踩刹车，”参议员桑德斯在新闻稿中说。 “当人类的未来受到威胁时，我们不能让少数大型科技公司的首席执行官制定自己的规则。”