OpenAI 安全员工辞职并敲响警钟

David Robinson 曾经撰写 OpenAI 发布的每个主要模型附带的安全报告。本周，他辞去了职务，现在在《大西洋月刊》的一篇社论中发表讲话。如果你对每个人突然冒出来警告他们帮助建造的东西有多么危险感到有点愤世嫉俗，这是可以理解的。毕竟，他们确实把这件事弄得一团糟。但这并不意味着我们应该忽视他们的警告。罗宾逊表示，工业文化从根本上被打破了。这是一个比简单地就我们如何处理训练模型制定一些新规则或规定更深入的问题。他说，硅谷一直以“极度自信”和“不断冲刺”的方式运作，以“无阻碍的乐观态度”建立更大更好的模型，忽视或低估潜在的问题。他表示，人工智能公司现在应该培养谦虚的态度，并跳出狭隘、快速行动、打破常规的科技行业世界。具体来说，他说人工智能需要核级别的保障措施：考虑到当今的风险，前沿实验室需要像核电站或繁忙的机场一样运行，有多层冗余和仔细、耗时的规划，这样偶尔和不可避免的人为错误就不会打开灾难之门。越来越多的研究人员和安全工作者离开了著名人工智能公司的职位，罗宾逊只是其中最新的一个。雅各布·考克森 (Jacob Coxon) 似乎通过退出 Anthropic 开始了人才外流，然后公开表示人工智能“可能会在本世纪末杀死我们所有人”。紧随其后的是 Google DeepMind 的 Robert O’Callahan、Bilal Chughtai 和 Josh Engels，以及 Anthropic 的 Joe Benton。