人工智能高管呼吁监管简史

在过去的几天里，许多想从人工智能中赚大钱的人都公开同意，在我们失去控制之前，是时候让每个人放慢脚步了——包括 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官达里奥·阿莫迪、谷歌 DeepMind 联合创始人 Demis Hassabis、微软首席执行官 Satya Nadella 和 X 首席执行官埃隆·马斯克。当从某件事中获利的人宣称它是危险的并且需要监管时，总是有理由持怀疑态度。但无论出于何种原因，这都不是人工智能思想领袖第一次敲响警钟。早在 1863 年，查尔斯·达尔文的进化论就促使作家塞缪尔·巴特勒发出关于智能自我复制机器取代人类的警告，而在他 1872 年的后续著作《Erewhon》中，他描述了访问一个虚构的社会，该社会已经监管机器的存在，以避免人类崩溃。计算先驱阿兰·图灵在 1951 年的一次演讲中发出了著名的警告，人工智能将“遭遇巨大的反对”，因为不朽的机器“很快就会超越我们微弱的力量”，并最终“占据控制权”。要求干预的呼声也不是什么新鲜事。 2000 年，Sun Microsystems 联合创始人兼首席科学家比尔·乔伊 (Bill Joy) 写道，自我复制机器人可能比核武器更危险，部分原因是它们是在“目前不受挑战的全球资本主义体系内”开发的，而不是在严格控制的政府实验室中开发的。 2009 年，现任微软首席科学官的微软研究员埃里克·霍维茨 (Eric Horvitz) 召集了领先的人工智能研究人员，考虑“制定可能限制或偏向自主和半自主系统行为的政策，以解决人们的担忧。”但现代人工智能大佬警告说，他们的投资应该受到控制？这种趋势似乎始于埃隆·马斯克（Elon Musk），他的投资比大多数人都早。 2017 年 7 月：埃隆·马斯克 (Elon Musk) 表示，我们需要在人工智能对人类构成威胁之前对其进行监管 当埃隆·马斯克 (Elon Musk) 在一次美国州长聚会上表示，他们需要立即监管人工智能时，这位 SpaceX 和特斯拉首席执行官已经参与其中。他已经向 OpenAI 投资了 3800 万美元，并入股了至少另外两家人工智能公司，并且三年来他一直公开谈论人工智能的危险。 2014 年 6 月，他建议人工智能研究可以产生现实生活中的终结者，并于 8 月称人工智能“可能比核武器更危险”，并于 10 月表示研究人工智能就是“召唤恶魔”。 2015年1月，他与史蒂芬·霍金一起签署了一封公开信，要求负责任的人工智能研究；霍金此前曾警告称，创造人工智能可能是人类所做的最后一件事。 “人工智能是一种罕见的情况，我们需要主动监管而不是被动监管。因为我认为，当我们对人工智能监管做出被动反应时，就已经太晚了，”马斯克在 2017 年 7 月的全国州长协会夏季会议上对美国州长聚会说道。 2018 年 3 月，他补充道：“人工智能比核武器危险得多。那么为什么我们没有监管呢？” 2018 年 3 月：马克·扎克伯格“实际上不确定我们是否应该受到监管”在 Facebook 的 Cambridge Analytica 数据丑闻发生后，这位 Meta 创始人建议他的公司应该受到监管——如果这是“正确的”监管。这很大程度上与人工智能无关，但他确实去了那里：现在，随着人工智能工具变得越来越好，未来五到十年越来越多的公司将能够主动确定哪些内容可能是令人反感的内容或违反某些规则，那么公司这样做的责任和法律责任是什么？ 2019 年 3 月，他补充说，互联网需要监管机构发挥“更积极的作用”。 2018 年 12 月：微软就面部识别技术发出警报 2018 年初，微软因与 ICE 合作开发面部识别技术而受到批评，当时许多科技公司首席执行官谴责唐纳德·特朗普将儿童与在美国边境被捕的父母分开的政策。虽然这种形式的人工智能与自我复制智能并不完全相同，但微软总裁布拉德·史密斯在布鲁金斯学会的一次演讲中打开了自愿监管的大门，他说：“我们认为，政府在 2019 年开始通过法律来监管这项技术非常重要。……我们认为，防止这种逐底竞争的唯一方法是建立一个支持健康市场竞争的责任底线。而一个坚实的底线要求我们确保这项技术以及开发和使用它的组织，受法治管辖。” 2020 年 1 月：Alphabet 首席执行官桑达尔·皮查伊 (Sundar Pichai) 表示，人工智能需要受到监管“毫无疑问”，“在我看来，人工智能需要受到监管是毫无疑问的。不这样做太重要了，”皮查伊在《金融时报》的一篇社论中写道。 “唯一的问题是如何处理它。” “像我们这样的公司可以