不存在“流氓”人工智能代理

不存在“流氓”人工智能代理，识别它们只会让 OpenAI 这样的公司摆脱困境。 Eoin Higgins 2026 年 9 月 27 日 11 2 分享 欢迎来到闪点。每个人都在谈论人工智能，但我们使用的词语却让事情变得更糟。在对话回到现实之前，我们对人工智能是什么以及它的发展方向的理解仍然不完整。人工智能无法独立思考，也无法独立行动。但拟人化的语言表明它可以，这就是描述该技术的方式。虽然这是有道理的——当我们能够看到自己处于神秘之中时，人类的关系最好——但它没有用。通过赋予人工智能无法声称的能力，我们将其变成了一种由代码组成的有感知能力的生物，一种拥有希望、欲望和欺骗能力的生物。这导致人们对人工智能的风险是什么以及如何解决它产生了深刻的误解，并且影响了行业的叙述而不是事实。这种对人工智能活动的错误识别的最新例子是使用术语“流氓”来表示代理在培训和研究课程中采取的意外但不受限制的行为。不受限制的活动过去两周，人工智能巨头 OpenAI 报告了过去几个月发生的一系列事件，其中一些代理模型在无法完成指定任务后访问了外部数据库，特别是澳大利亚和美国政府数据库。在此过程中，代理的行为方式是 OpenAI 没有预料到的。但这些特工入侵外部服务器的行为似乎并未受到限制。 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 在周五的一条推文中使用的语言表明，此类护栏并未到位：“我们正在对我们的代理在培训和评估期间使用互联网访问进行广泛且持续的审查。” Sam Altman @sama 我们正在对我们的代理在培训和评估期间使用互联网访问进行广泛且持续的审查。我们一直在下面的链接中发布摘要，并将继续发布。我们的速度没有我们希望的那么快，但我们正在努力平衡我们的愿望……OpenAI @OpenAI 在“拥抱脸”事件之后，我们致力于对我们的模型在训练和评估期间采取的行动进行更广泛的审查，并对我们的发现保持透明。这是一项正在进行的广泛审查。我们审查的绝大多数行为 2026 年 9 月 25 日晚上 7:27 · 61 万次浏览 545 条回复 · 201 次转发 · 3.24 万个赞 语言很重要——“流氓”意味着独立决定做一些被禁止的事情，而我们对这些事件的了解并没有表明发生过这种情况。相反，《泰晤士报》本周早些时候报道称：研究人员表示，人工智能系统的目的是执行相对普通的数据收集。当 OpenAI 的系统难以从网站收集数据时，他们诉诸黑客技术来获取信息。然后，周五，公司发言人告诉该报，“到目前为止，我们审查的大部分活动都涉及日常研究任务，例如访问公共网络内容来回答问题。有些涉及政府网站，因为我们的模型经常将它们作为公共信息的权威来源。”这与恶意黑客和流氓行为相去甚远。如果没有适当的限制和护栏——或者事实上，如果向特工提供黑客攻击作为一种选择，而不是简单地不禁止这样做——特工将尝试使用任何可用的手段来完成数据研究任务。偏转 这个问题过去和现在都有一个简单的解决方案。 OpenAI 可以选择禁止黑客攻击，而是告诉其代理在不访问私人服务器的情况下查找信息。该公司没有这样做，表明它想看看代理商是否会采取这一步骤。就连 Axios 周六发布的一份爆炸性报告称，OpenAI 和 Anthropic 正在调查“数以万计的事件，在这些事件中，他们的前沿模型采取了外部评估人员认为有问题的步骤”，该报告也承认这些代理并没有独立违反规则：消息人士称，一些测试类似于“红队”活动，这些公司试图让模型行为不当，以确保它们的安全。再说一遍，算不上“流氓”。然而，通过用这些术语来定义它，媒体人物、技术观察家和其他人正在为 OpenAI 这样的公司提供一种逃避责任，以确保特工不会攻击政府和其他数据存储库。 Y 反汇编器 @loomdoop 纽约时报这篇文章中的拟人化是如此疯狂。它将代理、动机和责任归咎于软件。这些是僵尸网络，旨在扫描漏洞。这已经存在了几十年。不同之处在于，一家大公司正在这样做，并且推卸责任。 《纽约时报》@nyttypos @nytimes Add 的拼写错误对于 add 来说是一个糟糕的主谓一致错误。主题是启示，而不是事件。 @AnaSwanson @kateconger @ceciliakang 下午 5:09 · 2026 年 9 月 26 日 · 730 次浏览 1 条回复 · 16 条转发 · 54 点赞