谁来定义人工智能的规则？

Cohere 联合创始人兼首席执行官 Aidan Gomez 的观点人工智能正在重塑我们生活的世界。在一代人之内，我们发现医学、管理电网和保护国家基础设施的方式将彻底改变。许多人已经意识到这一点，并正在努力负责任地建设这样的未来。许多人低估了即将到来的变革的规模和速度。然而，有些人声称预见到了这种变化，并利用它来达到自己的目的。这是一个没有人问得足够清楚的问题：来自硅谷的少数精选的、占据市场主导地位的人工智能公司是否应该为全世界定义一代技术的规则和安全标准？同时确定这项技术进步的速度有多快？我们以前曾尝试过，但结果很差。这些寡头再次以保护公众为借口，利用恐惧，要求改变竞争规则，并被允许为其他所有人制定条款。披着羊皮的狼，一个有其他名字的卡特尔。我相信人工智能技术有潜力为我们的世界带来好处，并且我不会低估其中的风险。我经营一家公司，该公司构建部署在银行、电信网络和国防部内部的人工智能系统。这些是风险最高的环境，因为这些部门的失败所产生的后果远远超出了个人用户的范围——大规模破坏金融系统、关键基础设施、国家安全和基本服务。在您的代码中查找漏洞的相同功能也可以在其他人的代码中找到它们，并且网络攻击的成本比防御的改善速度更快。这种差距应该让你和我们一样担心。人工智能需要护栏。这不是争议，也从来没有争议过。争论的焦点在于谁编写规则、谁可以参与以及规则保护谁的利益。问题实际上是关于我们是否应该有基于科学证据的自由选择，或者我们是否应该将人类存在中最重要的技术的控制权交给少数硅谷高管。在我打破大型实验室正在推动的自私框架并提供替代方案的想法之前，让我们从最近的过去吸取一些教训，并思考卡特尔这个词，因为历史是特定的，而且它是准确的术语。 1975 年，美国证券交易委员会需要为其资本规则提供可靠的债券评级。它指定了三家公司为国家认可的统计评级组织，但从未公布其他公司如何获得这一称号的标准。这些是政府支持的外部评估员，由他们对证券进行评级的发行人支付费用，他们坐在监管机构本身建立的障碍后面。二十五年后，这样的评估员仍然只剩下三人。然后他们将次级抵押贷款证券评为 3A 级，几乎让全球经济随之崩溃。 1985 年，欧洲再次进行了这项实验。汽车制造商游说一项全面的反垄断豁免，即机动车辆集体豁免，认为现代车辆是复杂的、安全性至关重要的机器，因此制造商需要控制谁有资格销售和维修它们。随后的法规允许制造商制定场地、设备和员工培训标准，明确是为了安全可靠的车辆。但随之而来的并不是更安全的汽车。欧盟委员会花了大约二十五年的时间才结束了改革，并确立了从一开始就应该显而易见的东西：你可以在不让现任者垄断满足这些标准的情况下制定严格的安全标准。无论哪种情况，都没有人打算建立一个卡特尔。在这两种情况下，既定目标都是安全。但结果是形成了一种保护现有企业并限制竞争的市场结构，所有这些都是以服务公共利益​​为理由的。我不怀疑相关人员的诚意：许多人都担心风险并认真致力于解决风险。但复杂的问题并不总能在第一次尝试中得到解决，任何负责任的科学家、工程师或立法者都知道，要解决新问题，你必须从过去的历史中学习。提议内容 这让我们看到了 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 本周发布的路线图，要求政府以安全的名义给予反垄断豁免。该路线图是硅谷现有企业近期为塑造人工智能监管环境而做出的一系列努力中的最新一项。我想澄清一下我们同意什么。对高性能人工智能系统进行独立审查是一个好主意，我们支持它。然而，该提案的许多方面都提出了基本问题：谁制定了审阅者所采用的标准？谁进行或监督审查？谁可以参与制定规则的对话？上