为什么关于人择自动化人工智能开发的新报告令研究人员感到震惊

Anthropic 正在利用 AI 来构建更强大的 AI。它似乎运行得非常好，该公司的模型改进速度大约是一年前的两倍，几乎没有放缓的迹象。这是人工智能安全研究组织 METR 在对公司内部进行了为期 11 周的调查后于周四发布的一份新报告，作为评估其人工智能研发的报告的一部分。该调查与夏季发生备受瞩目的黑客事件后为安全研究人员提供“员工式”系统访问权限的计划是分开的。这些发现提供了迄今为止人工智能加速自身发展的一些最明确的证据，引发了人们的疑问：该技术能够以多快的速度迈向人工智能系统可以在很少或根本没有人类参与的情况下自我改进的未来。它们的发布也正值 Anthropic 的关键时刻，该公司正准备上市，尽管其首席执行官达里奥·阿莫迪 (Dario Amodei) 公开呼吁实验室对人工智能开发踩刹车。尽管该报告罕见地展示了世界领先人工智能实验室的内部运作情况，但它遗漏的内容也同样具有启发性。作为与 METR 协议的一部分，Anthropic 被允许修改最终报告的部分内容，而且它似乎自由地行使了这一权力，引发了人们对公众真正了解前沿人工智能发展的速度和风险的质疑。以下是一些最大的收获。人工智能正在极大地加速 Anthropic 的研发 METR 最值得注意的发现之一是，Anthropic 的人工智能模型的改进速度大约是一年前的两倍，基准分数表明“Anthropic 在过去一年中取得了大约两年的历史性进展”。至关重要的是，METR 的研究人员表示，他们“有信心”，这种加速不仅仅是由于扩大了用于训练模型的计算能力，而这在历史上一直是人工智能进步的主要推动力。相反，研究人员表示，截至 10 月份的增长大部分“归功于人工智能”，而且其贡献随着时间的推移而不断增加。这一发现得到了 Slack 非正式民意调查和对 Anthropic 员工的采访的支持，这些调查表明生产力大幅提高。 METR 写道，使用 Anthropic 最有能力的内部模型的员工平均自我报告的工作效率是没有人工智能帮助时的 12 倍左右，大约是几个月前员工使用 Mythos 5 时报告的两倍。METR 的报告中包含了这张图表，显示了 Anthropic 员工对 Slack 民意调查中有关人工智能加快工作速度的反应。图片来源：METR 目前，大部分加速似乎来自人工智能协助人类研究人员，而不是人工智能独立工作，尽管 METR 警告说，“有一些迹象表明完全自主的贡献很快将发挥更大的作用。”值得注意的是，研究人员表示，他们没有发现明显的收益递减迹象或可观察到的瓶颈，可以阻止“更快的加速”。 Anthropic 的三个最新人工智能模型仍处于保密状态 Anthropic 的研究人员正在使用比我们其他人更先进的人工智能模型，METR 描述的加速和生产力提升很大程度上归功于未发布的内部模型。据 METR 称，在过去的六个月里，Anthropic 已经完成了三个尚未发布的模型的训练。开发速度很快，代号为 Model 2、Model 3 和 Model 4 的模型分别于 7 月、8 月至 9 月和 9 月至 10 月完成训练。 METR 还发现了一个可追溯到 2022 年的未发布模型，称为 Unreleased 2022。“这些是与我们共享的代号；我们知道它们有不同的内部代号，”研究人员写道。 Anthropic 对关键信息保密 Anthropic 允许 METR 访问大量非公开信息，包括机密研究、模型性能数据和作为研究过程一部分的员工访谈。它没有义务这样做，而且 METR 自己也承认，人工智能实验室“分享的信息比该项目最初设定的信息要多，超出了我们的预期。”这是值得称赞的，但值得注意的是，Anthropic 并没有授予研究人员不受限制的访问权限，也没有授予其他 METR 安全研究人员那种“类似员工”的访问权限，这是上个月宣布的一项单独计划的一部分。这是一个重要的区别，因为公司可以从独立评估中获得声誉利益，即使它们受到重大限制。并且有很大的限制。 Anthropic 有权编辑 METR 最终报告中的信息，并且广泛使用了这种权力。 “我们向 Anthropic 提交了约 100 页的完整评估报告。对于公开版本，Anthropic 编辑了我们认为信息最丰富的大部分证据，”METR 在 X 上写道。METR 重申