随着人工智能安全问题的加剧，三位先驱者提出了保持开放的理由

随着 Pacing the Frontier 等项目将主要实验室视为确保人工智能研究安全的一种方式，开源模型已成为该行业的痛点。由于自由分发且对其使用方式几乎没有控制，开放权重模型不容易控制，导致一些实验室将它们视为彻头彻尾的可怕。但在上周于拉斯维加斯举行的 Ai4 会议上，世界上最受尊敬的三位人工智能研究人员——诺贝尔奖得主杰弗里·辛顿 (Geoffrey Hinton)、World Labs 首席执行官兼联合创始人李飞飞以及 Coursera 联合创始人吴恩达 (Andrew Ng) 就这个问题发表了看法。尽管他们在特定策略上存在分歧，但三人都为保持人工智能开放提出了强有力的理由。对于三位发言者来说，核心问题是让少数主要人工智能公司控制进展速度。当少数公司控制对一项技术的访问时，就像苹果和谷歌对移动操作系统所做的那样，创新可能会放缓，而控制平台的公司可能会影响在平台上构建的内容。吴恩达表示，他担心人工智能领域也会出现类似的动态。 “我不想有看门人，”吴说。 “这限制了我们所有人获取人工智能的方式。”公司有动力保护自己的竞争优势，包括影响行业管理规则。这可能会产生一种动态，只有规模最大、资本最雄厚的公司才有资源来构建最先进的人工智能系统。吴恩达的解决方案是维持多个提供商，让模型和公司相互竞争，而不是让少数参与者主导该领域。 “如果我要尝试给出一个处方，那就是促进开放性，”吴恩达说，“因为人工智能是一项令人惊叹的技术，我希望它掌握在每个人的手中。”但并非所有人都认为开放权重模型有助于保持这种状态。 Hinton 特别区分了开源软件和开放权重模型，前者使底层代码可供检查和修改，后者向公众发布经过训练的人工智能模型的参数。 “开源很棒。你向人们展示代码，很多人看着代码行就会说，‘哦，有一个错误。’开放权重意味着你训练一个大模型，然后给人们权重。这是非常不同的，”Hinton 说。 “我反对开放[权重]，因为它让人们很容易采用这些大型基础模型，这些模型的训练成本非常高，而且训练它们做网络攻击等坏事的钱要少得多。”但无论 Hinton 有何保留，他承认开放权重模型已经成为人工智能的永久固定装置。 “我认为这场战斗已经失败了。我们现在有了开放重量模型，所以很多人获得这些大型模型的障碍，即训练基础模型的成本，这个障碍已经消失了。为时已晚。”然而接受现实并不意味着忽视风险。 Hinton 的立场很明确：人工智能将继续进步，他认为这在很大程度上是一件好事。他表示，这将提高生产力并改善教育和医疗保健。 “担心人工智能可能产生的不良影响，以及智能生物比我们聪明时可能会做的事情。我认为这并不公平。我认为将任何有这种想法的人贴上恐惧散布者的标签是不公平的，”辛顿补充道。吴则持不同的观点。他认为，问题不在于开放模式是否有风险，而在于谁控制访问以及谁将赢得市场。谁制造出更便宜的模型，谁就拥有优势。他警告说，如果中国的开放权重模式在亚洲、非洲和/或发展中国家得到广泛采用，它们可能会影响数十亿人如何看待民主、自由和人权理念。 “我希望我们做的一件事是鼓励美国的竞争力和开源人工智能。事实证明，人工智能是软实力的巨大来源。例如，你可以看到中国的模式在非洲取得了巨大的成就，”吴说。 “但我担心的是，由于美国的所有游说和散布恐惧，在美国构建开源人工智能正在努力与来自中国的开放权重模型竞争，而且我担心的是，如果中国找到一种从根本上更具成本效益的方式来构建人工智能，那么更具成本效益的东西就会拥有根本的商业采用优势。”李反驳了这一框架。 “将完全开放与完全封闭之间的二分法视为非常危险的，”她说。 “在复杂的软件系统和科学系统中，情况要微妙得多。”李以核物理为例：科学论文是公开发表的，但铀受到监管，而实验室工作则介于两者之间。她解释说，这个教训是，开放不一定是一个全有或全无的选择。生态系统的不同层可以在不同的开放程度下运行。她还强调了公共和私人机构之间的合作，