无论人工智能安全是什么，它都不是这个

这是为您准备的有趣的历史课。别担心，我们会尽快解决的！ 1966 年，美国高速公路上有近 51,000 人死亡。压倒性的证据表明，现代安全带可以挽救许多生命，而当时安全带已经存在了好几年。汽车行业的反应是团结起来，并自愿在每辆下线的新车上安装安全功能，以实现自我监管的胜利。开玩笑！他们当然没有那么做。 1966 年秋，国会成立了交通部，随后通过了《国家交通和机动车辆安全法》以及《公路安全法》，赋予联邦政府制定安全标准的全面新权力。到 1968 年，每辆新车都要求配备安全带。尽管过去 60 年来高速公路交通量大幅增加，但如今道路上发生的死亡人数却少得多。周二，当我看到多位人工智能首席执行官聚集在美国总统唐纳德·特朗普身边，祝贺自己和彼此签署人工智能安全协议时，我就在思考这个问题。我的同事 Maddy Varner 在这里写了具体的规定，但简短的版本是，这很大程度上取决于人工智能实验室的自我约束。或者，正如特朗普周三在椭圆形办公室中更简洁地说的那样：“他们要警察，他们要互相警察，他们要自我警察，他们要警察自己。这会取得很好的结果。”这就是人工智能安全监管的现状。一方面是人工智能高管、员工和技术名人，他们都表示需要引入清晰、深思熟虑的战术规则，以避免潜在的灾难。 （例如，比尔·盖茨（Bill Gates）在媒体闪电战中扮演卡桑德拉（Cassandra）谈论人工智能的末日。）另一方面是特朗普的神奇思维，即如果你说某件事足够多的次数，它一定是真的。这并不是说这一切都很简单或容易。正如其中一些高管喜欢说的那样，如何正确“把握前沿”的问题仍然悬而未决。即使所有主要的人工智能实验室都同意放慢速度，也没有什么好办法让他们信守诺言，而且无论如何，中国很可能会继续走自己的道路。美国经济越来越依赖人工智能产业，而人工智能产业本身已成为融资交易和循环投资的“衔尾蛇”；任何有意义的镇压都会带来严重不稳定的风险，其影响远远超出了硅谷。诚然，出于各种原因，汽车行业也是一个不完美的类比。人工智能没有安全带等价物，也没有可以在一夜之间明显降低风险的简单解决方案。 （大多数州也花了几十年的时间才通过法律，强制人们实际佩戴它们。）潜在的危害不太确定，也不太可量化。人工智能的毁灭者会告诉你，这项技术可能会在十年内导致人类灭绝；怀疑论者认为这是科幻营销的胡言乱语。