南希·佩洛西的继任者已准备好监管人工智能

人工智能 南希·佩洛西 (Nancy Pelosi) 的继任者已准备好监管人工智能 斯科特·维纳 (Scott Wiener) 已将人工智能监管作为其政治生涯的基石。现在他正前往国会。作为加利福尼亚州参议员，斯科特·维纳 (Scott Wiener) 起草了旨在遏制先进人工智能风险的立法。现在，在赢得前众议院议长南希·佩洛西旧金山空缺席位的激烈国会竞选后，他可以在制定联邦人工智能政策方面发挥关键作用。周五，就在维纳被宣布获胜几个小时后，我与他进行了交谈。但他已经在考虑人工智能的风险。前一天，人工智能非营利组织 METR 发布了一份报告，该报告被广泛解读为 Anthropic 实现了递归自我改进的证据，在这种现象中，人工智能为自身进步做出了有意义的贡献，而人工智能进步可能会失控。 “这非常令人担忧，”维纳说，并引用该报告作为证据，表明我们很快就没有时间来监管人工智能了。 “我希望国会在今年[年底]之前采取果断行动，”他说。 “这似乎并没有发生。”近年来，维纳越来越关注人工智能，他也将人工智能安全运动的许多担忧归咎于自己：例如，在我们 20 分钟的谈话中，他六次使用了“递归自我完善”这个短语。“我们需要放慢速度，”他说。 “因为它发展得非常快，我们可能会梦游一场灾难。”维纳已经对人工智能政策产生了真正的影响。他于 2024 年起草的 SB 1047 法案原本将成为美国第一个真正的人工智能前沿立法，但后来被加州州长 Gavin Newsom 否决；随后，他赞助了 SB 53，这是纽瑟姆签署的一项较为宽松的法案。这两项法案都激发了拟议的联邦立法。维纳的国会竞选活动从 Public First Action 获得了超过 300 万美元，这是一家支持人工智能监管的非营利组织，并获得了 Anthropic 的大量资助。这一贡献导致反对者批评他与人工智能行业过于接近，但维纳表示这与事实相差甚远。 “公共优先支持我，因为我是该国第一个引入人工智能监管的立法者，也是第一个通过并实施它的立法者，”他在接受我们采访后的一条消息中写道。 “对我[公共优先]支持的攻击是令人震惊的愤世嫉俗——实际上是在攻击一位不顾大型科技公司的反对而实际上监管人工智能的候选人，并错误地声称该候选人在某种程度上与大型科技公司过于接近。”维纳表示，如果国会成立一个人工智能特别委员会（民主党自 9 月份以来就一直在讨论这一问题），他将很乐意参与其中。他对国会提出的许多政策想法充满热情。他说：“我认为拥有一个强大、授权、灵活的联邦监管机构非常重要。”他指出，来自加州的民主党众议员罗·卡纳 (Ro Khanna) 已提议立法建立这样一个监管机构。他还强调了举报人保护、测试和审计要求以及终止开关要求的重要性，他希望看到国会利用其监督权力让人工智能实验室承担责任。 “这关系到人类的未来，我们希望确保公众有发言权，并且公众知道正在发生什么，”他说。作为一名长期的州立法者，他反对联邦对州人工智能法律的广泛优先权，而某些拟议的联邦立法将要求这样做。 “正如布兰迪斯所说，国家是实验室，”他指出。 “你希望各州能够继续保持灵活，而国会有时却无法做到这一点。”维纳表示，最重要的是，他希望国会能够切实通过政策。 “至关重要的是，当国会采取行动时，我们要以真正有意义且符合当前情况的方式行事，”他说。这意味着认真对待人工智能灾难的可能性，他用人工智能安全专家通常使用的那种语言来讨论这一点。他告诉我：“就人工智能失去控制的风险而言，我们正处于一个非常危险的时刻。” “我们需要处理递归的自我完善。一旦你进入这个领域，这确实可能导致完全失控。”他将在对抗灾难性人工智能风险方面拥有一些盟友。例如，参议员伯尼·桑德斯会见了人工智能安全运动中许多最有影响力的人物，并多次谈到人工智能和存在风险。但维纳湾区的 AGI 观点与以反对数据中心为基础的全国人工智能情绪之间仍然存在很大差距。事实上，选民周二批准了 41 项反数据中心投票措施中的 40 项，这对于维纳和其他支持人工智能监管的人来说似乎是一个好兆头，但维纳表示，他认为这一运动更多地与当地的担忧相关，而不是与大问题相关。