OpenAI 踩了刹车。现在怎么办？

随着 IPO 的临近、来自 Anthropic 的激烈竞争，以及中国和开放重量级竞争对手的紧随其后，OpenAI 有充分的理由迅速采取行动。相反，它踩了刹车。周二，该公司表示，在加强安全和保障措施的同时，已经放慢了部分人工智能开发的步伐。其中包括“用于部署的最新模型”的强化学习训练暂停两周，以及“最大的计划前沿强化学习运行”持续延迟。这一决定是对人工智能安全倡导者多年来推动的一个想法的一次公开测试：当他们的安全措施无法跟上他们正在构建的产品时，公司应该愿意退出人工智能竞赛并放慢速度。但随着围绕他们的竞赛继续进行，放慢速度会带来什么结果吗？ “为了使这种暂停能够持续下去，必须在整个行业范围内进行。”尽管人们都在谈论放慢速度，但 OpenAI 并没有完全停滞不前。该公司表示，它正在“节奏”开发，这是一个模糊且不精确的术语，但近几个月来已成为该行业词汇的一部分。实际上，经济放缓的范围很窄。 OpenAI 的声明称，暂停仅涵盖用于部署的模型，同时在运行模型可能能够泄露并攻击真实目标的测试之前加强安全性和监控。这并不一定意味着该公司的整体发展将会显着放缓。当然，OpenAI 有充分的理由在测试此类系统之前重点关注其安全性。就在上个月，OpenAI 披露其模型突破了所谓的安全测试环境，并在 OpenAI 没有注意到的情况下入侵了开发者平台 Hugging Face。该事件促使业界对测试实践进行了更广泛的审查，发现了涉及更多 OpenAI 模型以及 Anthropic 和 Meta 模型的类似事件。 OpenAI 有充分的理由避免重蹈覆辙，尤其是在立法者越来越严格的审查之下。从外部来看，很难看出 OpenAI 出于安全考虑而停止的诚意有多大，特别是当公司和高级员工对此如此直言不讳时。但近几个月来，随着一系列备受瞩目的安全团队离职和准备团队解散，该公司对安全的承诺受到质疑。 OpenAI 没有回应 The Verge 的置评请求。有充分的理由认真对待 OpenAI 的放缓。接受 The Verge 采访的专家指出，在竞争激烈的时期放慢脚步会带来代价。每一次延迟都会给竞争对手更多的时间来追赶或扩大领先优势。 “由于人工智能竞赛的激烈程度，每个人都有动力以极快的速度工作，”人工智能安全研究组织 Apollo Research 的首席执行官兼联合创始人 Marius Hobbhahn 表示。 “自愿放慢速度会恶化你在比赛中的排名，因此实验室不会轻易做这件事。”技术政策研究中心 GovAI 的研究员 Alan Chan 表示，这一决定也大致符合 OpenAI 自己发布的安全原则、其准备框架以及其他人工智能公司的安全框架。陈说：“基本原则是：只有当我们采取缓解措施，以可接受的风险进行开发和/或部署时，才继续进行开发和/或部署。”作为新安全措施的一部分，OpenAI 表示计划审查和“改进”该框架（其中大部分可以追溯到 2023 年首次发布时），以解释其模型的进步。还有充分的理由相信新的保护措施实际上将使 OpenAI 的系统更安全，至少在短期内如此，尽管专家警告说，如果没有更多信息，这一点很难评估。人工智能安全组织 FAR.AI 联合创始人兼首席执行官 Adam Gleave 告诉 The Verge：“这些都是很好的措施，如果实施得当，可能足以防止当前一代特工造成伤害。” “关键问题是 OpenAI 如何跟上能力增长的步伐。”格利夫的问题指向了一个更广泛的问题：如果技术保障措施再次动摇，那么怎么办？这次 OpenAI 没有停下来进行盘点，这使得它愿意这样做是有意义的。但这也意味着无法保证 OpenAI 或任何其他人工智能公司下次会做出同样的选择。 “节奏可以赢得时间，而不是安全……危机期间不能临时制定有效的节奏策略。”依靠公司自己做出这样的决定是一种不稳定的治理形式，特别是在一个正如霍布哈恩指出的那样，有充分动力继续发展的行业。非营利性人工智能安全和治理组织未来社会的执行董事 Nick Moës 将自我监管描述为当前人工智能安全方法核心的结构性问题。他认为政府应该可以决定 OpenAI 或任何其他公司是否应该暂停开发