刚刚退出 Anthropic 的人工智能研究员表示，现在是“人类的关键时刻”

如果协调进展不顺利，那么我们可能在未来几年内遭遇灾难性的结果。也许一切进展顺利，并且达成了某种放缓协议，但无论哪种方式，都会在未来几年内做出决定。根据我与 Anthropic 人员的交谈，这是公司内部非常容易理解的事情。他们认为需要构建最强大的人工智能来确保这一转变顺利进行。您认为这种观点有什么固有的问题吗？我认为这种观点存在一些非常明显的问题。但我首先想说的是，我对此非常同情，因为我认为 Anthropic 无疑是该领域最负责任的参与者。曾在 OpenAI 和 Anthropic 工作过，他们对待这种情况的认真程度有天壤之别。能说一下怎么做吗？举个例子，OpenAI 的高管不会向你提供他们对世界的准确描述。他们永远不会说，“这正是我们这样做的原因，这就是世界的样子。”他们不会给出具体的预测。 Anthropic 将让高管和领导层做出非常明确的预测，并与整个公司讨论公司战略的细节等。他们能做到这一点的部分原因是因为 Anthropic 的每个人都像对待战争一样对待这件事。他们不会泄露任何东西——Anthropic 从来没有泄露任何东西[编者注：有些东西已经泄露了]。 OpenAI 每天都有泄密事件。 Anthropic 没有泄密，因为它内部的人再次将其视为一个严肃的迷你曼哈顿计划。显然，不同之处在于 [Anthropic] 没有政府授权。这是一家私营公司，其行为就像曼哈顿计划一样。您认为世界应该信任 Anthropic 来运营这个迷你曼哈顿项目吗？我认为私人公司不应该这样做。我认为Anthropic已经尽力了，他们做得非常好，但是比赛的结构必要性是，未来他们将不得不走捷径，所以他们必须在严谨性和安全性之间进行权衡，因为他们正在与OpenAI和中国这样的竞争对手进行比赛。他们正在乞求监管。许多[人类领袖]公开表示他们希望受到监管，而他们希望受到监管的原因是因为他们害怕自己所处的种族。这并不是我们是否应该信任[人类]的问题。我们需要介入并确保比赛不会发生，因为[人类]在比赛的背景下无法真正信任自己。你认为 Anthropic 已经在偷工减料了吗？不，还没有。它没有偷工减料。我想说的是，当明年事情加速发展时，如果他们想保持竞争力就必须这样做。因此，人们对人工智能会杀死我们所有人的说法持怀疑态度。我认为我从人们那里得到的主要问题是，人工智能实际上将如何杀死我们所有人？这是正确的问题吗？