反对开源人工智能的论据很糟糕

Kimi K3的发布开启了新一轮焦虑和困惑的讨论。许多记者、商界领袖和政界人士大声疾呼，开源人工智能是一种危险的威胁。 OpenAI 的 Dean Ball：开放权重模型主导世界的一个可能结果是完全的人工智能共产主义……人工智能不是一种市场产品，而是一种“公共产品”，任何人都可以免费使用人工智能？恐怖！前沿实验室反对开源人工智能的理由本质上是：开源模型 1 是危险的（而且不符合美国风格！）。我们应该打开人工智能潘多拉魔盒，但只有负责任的看门人（收费员，最好是我们！）。只有值得信赖的用户（我们最赚钱的客户）才应该能够使用它。我想解决一些反对开源人工智能的糟糕论点，但对这些论点的构建方式进行一些修正是有必要的：开源软件是商业软件的基础​ Ball 的框架忽略了开源软件是所有专有软件的基础这一事实。这包括前沿模型，它们归根结底都是软件产品。对于软件行业以外的人来说，开源软件是违反直觉的。为什么要努力开发产品，然后免费赠送呢？软件程序是程序的堆栈，每一层都构建在另一层之上。要构建 Uber，您需要编程语言框架、发送和接收网络流量的软件、数据分析工具以及无数其他组件。其中大多数都不是商业企业的差异化因素，因此它可以帮助商业参与者在堆栈中的较低组件上进行合作，并在真正差异化其产品的较高级别组件上进行竞争。前沿实验室非常希望人工智能模型不要落入“如此普遍以致于没有竞争意义”的类别。这种情况是否会发生还有待观察。开源软件很难压制​现实中，关于压制开源模式的争论大多是离题的。历史告诉我们，压制开源软件是极其困难的，试图这样做只会削弱公司对抗国际竞争对手的能力。加密的简史很能说明问题：如今，PGP 是任何人都可以使用的常见工具，并且大多数开发人员至少都熟悉。但当 Phil Zimmermann 在 1991 年发明它时，美国政府认为加密是军事技术。对齐默尔曼展开刑事调查。当 Netscape 创建 SSL 时，美国政府允许其仅在国际上发布其弱化版本。这些控制措施适得其反：获得弱化的“国际”版本要容易得多，因此甚至许多美国人也使用它。出口管制并没有像政府希望的那样成功地限制加密。 SSL、PGP 和类似工具在世界各地都很容易获得，而这些控制措施对美国人不利。最终，法院裁定发布加密源代码属于受保护的言论，美国政府放松了加密出口管制。将打压范围缩小到“中国”模式并不会让事情变得更容易。到底是什么让人工智能模型变得中国化？如果正如前沿模型所声称的那样，它是从美国模型中提炼出来的，那么它是中国的吗？如果美国人对中国模式进行微调呢？充其量，以这种方式监管人工智能只会（暂时）阻碍美国人的繁文缛节，并相对于世界其他地区减少人工智能的使用机会。开源人工智能不仅仅是中国的现象​关于开源人工智能的争论中有一个假设，即开源模型是只有中国政府才有动力开发的东西。事实上，有许多商业参与者有足够的动力来开发开源人工智能： 芯片制造商：Nvidia 首席执行官黄仁勋将 Nvidia 正在建设的东西描述为“代币工厂”2 。 Nvidia 并不关心其芯片是用于运行前沿模型还是廉价的开源模型 3 - 它只是想生产并产生对尽可能多的代币的需求。事实上，Nvidia 自己也发布了一套开源模型。美国初创公司：Thinking Machines Lab最近发布了一个功能强大的开源模型。他们和其他人押注模型将被商品化，并且可以围绕补充或定制模型的辅助服务建立防御护城河。企业人工智能用户：前沿模型客户目前在开源人工智能开发方面并不那么活跃，但他们将会如此。他们需要更低成本的模型来执行低复杂性的任务，以及对面向客户的功能进行更细粒度的控制。 BigCos：可以肯定的是，Google 和 Meta 正在密切关注 OpenAI 的新广告产品。如果前沿模型广告产品获得关注，那么这些巨头将无广告的开源模型商品化以压制广告竞争是非常值得的。 “人工智能竞赛”到底是什么？ ​围绕中国模式的大部分焦虑都集中在“输掉人工智能竞赛”上。