科技远见者表示大型人工智能实验室无法满足人们的需求

蒂姆·奥莱利衡量公司、个人或社会价值的标准长期以来一直是创造的价值大于获取的价值。奥莱利——出版商、互联网先驱、风险投资家、会议组织者和技术智慧的传播者——将这一指标应用于人们设计和使用人工智能的方式，这并不奇怪。具体来说，他正在推动一个开源人工智能成为大众灵丹妙药的未来。他担心，就像 20 世纪 90 年代的微软一样，今天的超大规模企业正试图将用户锁定在他们的产品中。因此，他正在推动人工智能技术的开源——不仅使神经网络权重等关键技术细节变得可访问，而且还解锁人工智能系统的整个堆栈，将控制权交给设计师和用户。奥莱利将人工智能视为一种新的创意媒介，他广泛使用人工智能，甚至有一个关于他与人工智能的聊天的博客。在我们的谈话中，我们发现我们对人工智能在制作原创内容中的作用存在分歧。猜猜谁站在哪一边。 STEVEN LEVY：你们都热衷于开源人工智能。提出你的理由。蒂姆·奥莱利：首先，我们要确保我们谈论的是同一件事。当大多数人谈论开源人工智能时，他们实际上只是在谈论开放权重模型。它比那大得多。在 90 年代，当其他人都专注于开源许可证时，我想，“不，不，这是关于系统架构的。它是否支持参与？”为什么需要这个？大型实验室对未来的解读是错误的。他们告诉自己，拥有最大、最好的模型是未来的关键。像 Claude 这样的大模型正在针对特定用例进行优化，但它们不一定是人们想要的用例。我想嵌入我自己的特殊酱汁。最重要的是模型、线束和应用程序之间有清晰的分离。现在我们还没有明白这一点。他们构建了一个控制架构，而不是一个自由和参与的架构，因此他们有能力跟踪你。放弃控制权不是违背大公司的利益吗？哦，这完全违背他们的利益。但这并不意味着他们正在做出正确的战略决策。很长一段时间以来，最新最好的型号确实在所有方面都更好。现在，它们在某些方面做得更好，而在另一些方面则较差。人们经常谈论《神鬼寓言》和《索尔》是如何比低级别模型更糟糕的作家。 [注：Anthropic 和 OpenAI 可能会不同意。] 我们在所谓的前沿人工智能领域取得的突破实际上使我们远离普通人的需求。我们可以在美国赢得前沿人工智能，而中国会踢我们的屁股，因为他们的低级模型在社会中广泛传播。目标是赋予人们自由创新、突破界限的能力。人们担心开源软件可能存在安全风险，因为不良行为者将能够跳过前沿模型的护栏。我们看到的所有网络安全事件都来自前沿模型。因此，网络安全和开发病原体的能力等风险实际上是放慢前沿模型速度的理由，而不是限制开放权重模型的理由。所以你觉得开源后人工智能力量将不再占主导地位？我不预测未来。但我会说世界正在按照我希望的方式发展。如果大型前沿模型最终像大型机或超级计算机一样——针对真正困难的问题，而这些问题实际上并不是在整个社会中传播的东西，那会怎么样？人们正在构建 Pi 之类的东西，这是一种开源[代理]工具。我们在我的非营利组织“人工智能披露项目”中正在研究的事情之一就是开放内存联盟的想法。马克·扎克伯格的论点是，他会将你锁定，因为 Meta 会给你最了解你的人工智能。开源愿景需要对此说不。开源可以让您能够切换模型、切换提供商并维护所需的所有上下文。