谷歌 DeepMind 成立研究所以扩大 AGI 争论

谷歌和谷歌 DeepMind 研究人员周三成立了 DeepMind 研究所，以推进围绕通用人工智能的对话。该研究所将 DeepMind 联合创始人 Shane Legg、谷歌高管 James Manyika 和 Google DeepMind 主席 Demis Hassabis 列为董事，Legg 担任总编辑。新研究所旨在揭示谷歌、谷歌 DeepMind 以及更广泛的全球 AGI 研究社区之间的不同观点。公告中写道：“他们不会总是同意，而且随着更多数据和信息在快速发展的前沿领域曝光，他们可能会改变主意。”首部四篇论文集涵盖了一系列主题：管理潜在 AGI 颠覆的经济政策、保留人类可读的模型推理、人类繁荣的原则以及评估前沿人工智能模型的框架。 DeepMind 安全研究人员 Rohin Shah 和 Anca Dragan 撰写的一篇文章认为，人工智能透明度窗口的缩小（查看和检查模型逐步推理的能力）并非不可避免。作者表示，由于新的架构使得最强大的模型更难以监控，因此开发人员和监管机构应该直接面对安全权衡。这可能意味着限制“不透明串行深度”——模型在不产生可读推理跟踪的情况下可以执行的顺序计算量——或者要求开发人员证明不太透明的系统仍然是可监控的。在另一篇文章中，哈萨比斯提议成立一个由美国领导的前沿人工智能标准机构来评估最先进的人工智能模型。在他的框架下，开发人员最初将在发布前 30 天内自愿提交模型以供审核。一旦评估系统被证明有效，通过测试可能成为在美国部署前沿模型的要求。该机构首先会与人工智能公司协商设计评估，但最终会开发独立的、未公开的评估——本文称之为“保留”测试——以防止实验室根据已知的评估定制模型。哈萨比斯表示，“如果情况严重，需要加强该框架”，可能包括前沿人工智能开发商之间的协调放缓。这些文章发表之际，该行业的安全辩论从广泛的担忧声明转向具体的披露建议、外部审查，以及如果保障措施落后，则协调放缓。随着行业领导者认可 Anthropic 首席执行官 Dario Amodei 呼吁“加快”前沿人工智能发展的内容，这种转变在本周加速。