OpenAI、划分原理和数学

当我昨天起床时，有三个人问我是否看过 OpenAI 的公告，即分区原则并不意味着选择公理。白天这个数字不断增加，我明白为什么。我对这个问题非常感兴趣。事实上，至少有两个人问我是否打算按照我的“问题”页面中的承诺，给山姆·奥尔特曼送一瓶威士忌。答案是否定的。让我向你解释一下为什么，以及为什么你应该对 OpenAI 感到非常愤怒。让我先澄清一下。我并不完全反对使用人工智能。我知道它是一个工具，很多人都觉得它很有用，我很高兴地同意它是优点。我认为，在我们急于投入这项技术之前，我们需要更好地了解这项技术如何改变我们的领域以及我们希望如何使用它。这就是为什么我通常避免在数学中使用人工智能（我很高兴要求法学硕士为我整合信息，或者生成有用的信息图表，或者校对电子邮件等），在我看来，这只是目前缺少的使用它的框架。尽管如此，我们仍处于发现阶段，人们使用它，我们看到后果正在显现，我们可以作为一个社区决定进一步采用它或限制其使用。例如，arXiv 由于这些工具而引入了速率限制，并且几乎所有论文此时都应该包含一些 AI 声明（我猜甚至声明没有使用 AI）。我们需要决定如何判断作者的贡献，例如，我们是否要求将聊天记录公开，或者至少提供给审稿人和编辑？这些是我们需要应对的问题，看看它们会带我们走向何方。但是，回到分区原则。我简单浏览了 OpenAI 发布的预印本（不是 Lean 代码，因为我对 Lean 的实际用法知之甚少，而且代码非常庞大）。太糟糕了。它不清晰、混乱、结构奇怪。术语“有点偏离”，有些定理我不希望被证明，而且也以一种非常奇怪的方式陈述。同样，引理 7.4 并不是您期望在这样的论文中看到的内容，引理 8.1 也是如此。然后是参考文献。引用了我关于布里斯托尔模型的一篇论文，对对称扩展进行了一些基本介绍，但这不是我会选择的参考文献；至少三个未发表的、未经审阅的和非 arXiv'd 的讲义被用作参考（包括我的，它用于指代我确信出现在我和其他人的一些已发表论文中的一个命题）。这不是你所期望的严肃的预印本声称能解决问题。让我将这份预印本与集合论中任何不涉及我不熟悉的子领域的技术细节的论文进行比较。我几乎可以肯定地可以浏览一篇集合论论文，并且对正在发生的事情有一个很好的了解。我可能不熟悉一些术语或论点，但对于非技术性的东西，我应该能够理解策略和结构。对于关于我的专业知识、关于选择公理的论文，我通常需要简要浏览论文，以便很好地了解作者做了什么（或打算做什么）。并不是说我总是对的，或者我总是完全按照作者的意图得到它，但这就是我花了超过 15 年的时间进行的工作，现在我已经非常清楚它是如何工作的。但对于 OpenAI 的分区原理论文来说这是不可能的。不，如果这是一篇提交给期刊的学术论文，则应该因质量问题而被拒绝。作者始终有责任遵守并遵守通信水平。就像用瑞典语写的论文可能会被《美国数学会会刊》直接拒绝一样，因为作者有责任让读者能够理解它。这就是问题所在。 OpenAI 发布了数百个“解决方案”，这些“解决方案”写得难以理解，我们都希望跳上它们，然后呢？欣赏他们的贡献？为什么？我正在努力完成几篇论文，我正在指导一些博士生。学生们，我自己也有很多积极的研究要做。我什么时候应该筛选写得不好的论文？当他们不愿意更好地沟通时，我为什么要费心呢？ OpenAI 新闻稿只是暗示“进展”。但对于媒体周期来说，对于其他人来说，这些都是“解决方案”。这是鱼与熊掌兼得的完美方式。但这相当于拒绝服务，我们是否应该认真对待它：停止其他一切并解决这个问题。也许有些人在一个问题上工作了多年，他们可能只是这么做，但作为一个整体……好吧。如果这是分享进展的真正尝试，那么写作的质量会更好，它会收到来自实际专家关于实际主题的一些输入。 OpenAI 是一家繁忙的公司，但我确信如果他们想真正提供帮助