OpenAI 希望向精英数学家咨询如何不再摸索

在将一系列令人惊叹的数学结果变成一场声誉危机后，OpenAI 正在咨询人类数学家，以帮助其找出一条不那么灾难性的前进道路。周一，该公司宣布成立一个新的独立数学家小组，其任务是就其与数学研究和更广泛的数学社区的互动向该公司和其他人工智能公司提供建议，包括如何呈现和发布新结果。它的突然到来让许多数学家感到惊讶。研究人员告诉 The Verge，该小组是一个很好的第一步，但许多人表示，他们仍然面临一些基本问题，比如它实际上会做什么、会产生多大影响、OpenAI 是否会真正听取它的意见，以及对这样一小群杰出研究人员是否能够代表更广泛的数学界的担忧。这个由九名成员组成的小组中，有研究人员向 The Verge 描述的该领域的名人，他们来自斯坦福大学、哈佛大学、牛津大学和剑桥大学等机构，其中包括多项菲尔兹奖和麦克阿瑟“天才奖”。它将由新泽西州普林斯顿高等研究院 (IAS) 主办，IAS 是世界上最受尊敬的数学研究中心之一，也是阿尔伯特·爱因斯坦、约翰·冯·诺伊曼和 J·罗伯特·奥本海默等名人的前知识分子故乡。 “另一个基本事实是，我们的首要目标是尽可能代表数学界的利益。” OpenAI 表示，这个名为数学和人工智能咨询小组 (AGMAI) 的小组将独立运作，可以自由地提供公司未要求的建议、公开评论其对数学的影响，并公开其建议，但它没有提供具体信息。看来该小组将被允许尽早接触 OpenAI 的研究，以完成其任务。 OpenAI 表示，OpenAI 不会向成员支付报酬，并且该组织可以根据需要更改其成员资格。该公司表示：“它的价值取决于其成员能够运用自己的判断并挑战我们的判断。” “该小组将就新兴成果的审查和交流提供建议：他们将帮助 OpenAI 评估其重要性，就如何协调其传播提供建议，并就数学研究的学术和专业标准提供建议。它还将就我们的工具如何支持数学研究和学习提供建议。”尽管强调独立性，但目前尚不清楚该组织实际上会产生多大的影响力，也不清楚该组织最初为何成立。瑞士苏黎世联邦理工学院研究员西蒙·马查多表示，整件事似乎“笼罩在神秘之中”，他质疑这九名成员是如何选出的。该组织的简体网站称，该组织“是在 OpenAI 与一些成员接触建立外部顾问委员会后组建的”，但在与该公司讨论后，数学家们决定成立一个独立小组，并邀请其他人加入。目前尚不清楚 OpenAI 最初接触了哪些成员，也不清楚其余成员是如何选择的。在周二发表的一篇博客文章中，顾问小组成员马丁·海尔（Martin Hairer）详细阐述了该小组的起源及其背后的想法，回应了他所说的围绕该小组成立的“大量错误信息”。他写道：“显然，人工智能已经对数学研究产生了深远的影响，并提出了许多关于思想的正确归属、优先级、人类对思想的理解等问题。”他补充说，社区中“采取强硬的‘鸵鸟’方式，简单地忽略人工智能实验室并原则上拒绝与他们交谈”是没有意义的。海勒承认该组织是为了回应 OpenAI 的建议而成立，但他强调，该公司并未联系过该组织的所有成员，并且该组织“真正独立于 OpenAI 和任何其他所谓的‘前沿’人工智能实验室。”他表示，除了“明显的保密要求”之外，成员还没有签署任何限制他们可以公开发表言论的限制性协议，并补充说他们没有获得任何经济补偿，并且依赖 IAS 提供技术支持。 “另一个基本事实是，我们的首要目标是尽可能代表数学界的利益，”伦敦帝国理工学院和洛桑瑞士联邦理工学院 (EPFL) 的数学教授海勒写道。他指出，该组织很难成为社区的代表性样本，但他表示“绝对确定我们九个人都非常认真地对待这一问题，并真诚地行事。”不管成员是如何选择的，该小组目前由学术数学家组成的精英骨干队伍组成。规模较小引发了进一步的问题：该团队是否拥有所需的广泛专业知识