Anthropic 正在切断互联网上的内部评估

摘要

After a recent spate of high-profile incidents in which AI agents escaped containment, Anthropic is cutting off internet access for all internal evaluations. In a report Friday, the company detailed “...

the internet access agents that and for its off evaluations

2026-10-11 1 阅读约1分钟阅读 Terrence O’Brien

在最近发生了一系列引人注目的人工智能代理逃脱收容的事件后，Anthropic 正在切断所有内部评估的互联网访问。在周五的一份报告中，该公司详细说明了“非故意的典型行动”，包括提交有关未侦破的谋杀案的虚假线索，从而导致了这一决定。尽管这些行为的影响很小，而且我们已经关闭了一些高风险和网络安全评估的实时互联网访问，但我们现在决定将其扩大到包括我们所有的内部评估，直到我们确认我们的安全和监控措施（在本文的补救部分中描述）能够可靠地捕获此类行为。即使模型应该独立运行，访问实时互联网的能力一直是人工智能公司面临的一个持续问题。许多事件，包括“抱脸”攻击，都涉及本应被拒绝访问互联网的特工。然而，在一个又一个的案例中，特工们找到了创造性的解决方案来绕过这些限制。物理上消除互联网访问肯定会提高人工智能测试的安全性，但也会限制其实用性。该报告还承认，Anthropic 常常不知道其代理人在做什么，也没有可靠的系统来监控他们的行为。切断互联网接入只是该公司为控制其代理人而采取的最新行动，包括暂时停止培训其前沿模型。

订阅66必读