“印度成OpenAI最大市场”，Altman首次回应“离职潮”：一群聪明人互不信任

编译｜林绮蓓 策划｜褚杏娟 创办 OpenAI 之前，Sam Altman 可以在周六下午坐进一家咖啡馆，点一大杯好喝的咖啡，带上电脑，看着周围的世界照常运转。如今，他很怀念这样的日子。 现在，他的日程安排得严丝合缝，已经很久没有随心所欲地做过一件事了。就连去咖啡馆，也不再能像以前一样，做一个无人注意的普通人。 OpenAI 改变了 Altman 的生活，也掀起了一场席卷整个科技行业的 AI 浪潮。2022 年 11 月，ChatGPT 以研究预览版的形式推出，让更多人开始通过对话使用 AI；几个月后，OpenAI 发布 GPT-4，进一步提升了模型处理复杂任务的能力，开始被用于语言学习、视觉辅助等场景。 此后，随着 GPT-6 Astra、GPT-6.1 Terra 等模型陆续推出，AI 的应用逐渐扩展到编程、科学研究和操作计算机等更复杂的任务。越来越多的个人和企业开始使用 AI，围绕技术发展速度、安全风险和权力集中的争论也越来越多。 这场 AI 浪潮中，Altman 的一些昔日同事也走上了各自创业的道路。曾经一起推动 OpenAI 发展的核心成员，如今有了不同的团队和技术选择。他们之间的分歧，也成了外界理解 OpenAI 的一个切口：这些最早投身 AI 的人，为什么没能继续共事？ 11 月 3 日，Altman 做客 Raj Shamani 主持的播客《Figuring Out》，谈到了这些离开的人。他认为，当人们意识到 AI 的利害关系如此重大时，可能会产生一种想法：“只有自己来做才值得信任。”不认同对方的方法，也就难以接受由对方掌握如此大的权力。在他的解释里，技术路线的分歧与对人的信任，很难分开。而他自己也承认，只有 OpenAI 掌握这项技术，并不是一个好结果。 太长不看版： Raj Shamani：为什么美国人谈起 AI 时偏悲观，印度人却更乐观？ Sam Altman：按用户数量计算，印度已经是我们全球最大的市场，超过美国，而且增长很快，用户的创造热情也很强。我想，部分原因在于：发展和经济增长更快的国家，对产品和服务的需求更大，供给却远远不足，因此往往比更发达的经济体更愿意接受 AI。 Raj Shamani：是什么让你相信扩大神经网络规模值得押注？面对外界的质疑，你怎么判断自己只是被误解，而不是真的错了？ Sam Altman：你没法确定，只能随着证据增多逐渐建立信心。当时我们看到，神经网络已经开始发挥作用，而且规模越大，能力越强。虽然距离发现规模定律还有几年，但这些观察已经让我们有理由继续投入。很多人认为，模型只能学习训练数据中已有的内容，无法创造新知识；这种解释当时很有说服力，却忽略了模型能够学到通用的推理能力，并将其用于新问题。对我们来说，扩大规模是一场预期价值值得投入的赌注，但远非十拿九稳。 Raj Shamani：创业者怎么发现别人还没看好的机会，并判断是否值得投入？ Sam Altman： 大家都觉得好的想法，通常也有很多人在做。你的优势可能在于，比别人更早看懂一项技术，发现它尚未被认识到的价值。即使成功的可能性不高，只要成功后能创造足够大的价值，也可能值得尝试。当然，你得说得清楚自己为什么看好它。对我来说，培养这种判断力最有效的方法，是练习提出好问题：不只是回答别人问了什么，还要自己发现有哪些未知的问题值得探索。 Raj Shamani：GPT-4 训练完成后，你为什么决定押上公司的未来购买算力？面对反对意见，你如何判断该不该坚持？ Sam Altman：当时外界还没见过 GPT-4，但我们已经通过使用它，看到了继续扩大模型规模、开展新研究的潜力。如果它的能力再弱一点，我们就不会有信心下这么大的赌注。 至于如何对待反对意见，我很少违背所有人的建议。身边都是聪明人，大多数时候就应该听取他们的意见；如果所有人都反对，你仍决定继续，就要意识到这可能代价高昂，而且很可能判断错误。过去做对的事情越多、权力越大，就越难听到反对意见，所以我需要老朋友和长期共事的人，也需要建立一种文化，奖励敢于指出我错误的人。 Raj Shamani：当时 OpenAI 团队中的大多数人认为 ChatGPT 还不够好、发布为时过早，你为什么仍决定推出？ Sam Altman：在 YC 的经历让我相信，早期产品需要尽快获得反馈。当时 ChatGPT 内部原型的留存率可能只有 5% 左右，这个数据本身也不够可靠，但留下来的部分用户非常喜欢它，也大量使用它。对刚起步的产品来说，一小群人真正喜欢它，比很多人只是有点喜欢更重要。这是让我决定发布的一个重要信号。 Raj Shamani：你会为 OpenAI 担心吗？最大的担忧是什么？ Sam Altman：当然会。OpenAI 开发的 AI 技术会对社会产生巨大影响。我相信它总体上会带来巨大的好处，但风险也很高，我们肩负着很大的责任。 Raj Shamani：如果超级智能可能威胁人类的持续生存，为什么由你来做这件事，威胁就会小一些？ Sam Altman：我也不认为只有我们掌握这项技术是件好事。事情可能以两种方式严重出错：一是人类失去对 AI 的控制；二是某个人、公司或国家相对于其他人变得过于强大。我认为，多个采取不同方法、相互竞争的 AI 项目，对世界来说会更好。 Raj Shamani：OpenAI 的一些成员离开后，开始各自研发 AI。你们的分歧主要在于技术方法，还是担心权力集中？ Sam Altman：我想，当很多人意识到这件事的利害关系如此重大时，会产生一种想法：只有自己来做才值得信任。他们对方法的担忧，也可能和对权力集中的担忧联系在一起：如果认为另一个人的方法不好，就不愿意让权力集中在他手里。 Raj Shamani：如果有一天你无法再陪伴和保护孩子，你会放心让他们在你参与创造的 AI 世界里长大吗？ Sam Altman：我想会的。未来可能出现各种问题，我也不知道世界会变成什么样。但我相信人们能找到办法适应变化，改善生活，让社会变得更好。我觉得世界很可能会继续变得越来越好，这让我感到安心。 Raj Shamani：接下来，你最想创造的、最了不起的东西是什么？ Sam Altman：我非常期待创造一台能够帮助人类发现新科学知识的机器，让我们更好地理解世界、探索物理学规律、寻找新疗法和新能源。数学方面的成果让我觉得，我们距离这个里程碑可能比我原本想象的更近。 从“不酷的书呆子”到 OpenAI CEO，Sam Altman 是个什么样的人？ Raj Shamani：Sam，欢迎来到《Figuring Out》。很荣幸能邀请到你，非常感谢你接受我们的采访。 Sam Altman：谢谢，很高兴来到这里。 Raj Shamani：如果有人第一次看到你，完全不知道你是谁，你会如何在 60 秒内向他们介绍自己？ Sam Altman：我是一个科技爱好者，一个对世界充满好奇的人。我相信 AI 会触及我们每个人的生活，也希望它带来的绝大部分影响都是非常积极的。我还是一位父亲，我非常爱我的孩子。大概就是这样。 Raj Shamani：你平时会不会提前想好，自己要怎么去思考、怎么表达，或者提前想好接下来要说些什么？ Sam Altman：我一般就是很自然地谈