维基媒体项目中发现 OpenAI“流氓”代理活动

最近，多个组织披露了所谓的“流氓”人工智能代理集群如何试图闯入网站和在线服务，有时甚至成功。据了解，来自 OpenAI 环境的代理尤其使用其他公共 wiki（不属于我们所有的协作编辑网站）来相互沟通和协调。这些类型的成功入侵可能会暴露敏感数据或破坏用户依赖的网站服务，而代理集群可能会尝试以防御者难以管理的规模进行攻击。它们影响网站背后的人员，他们可能不了解攻击的性质，或者没有有效反击的工具。对于像维基百科这样的网站，代理可能会发现并使用安全漏洞或进行大规模误导性编辑。维基百科的志愿者编辑和维基媒体基金会的安全团队必须检测并撤消该活动。维基媒体基金会进行了自己的调查，以了解维基媒体网站是否受到人工智能代理的类似影响，重点关注那些由 OpenAI 运营的网站。我们可以确认，我们在维基媒体平台上发现了这些“流氓”OpenAI 代理的一些活动。未经授权的机器人活动包括对我们的维基进行编辑、利用我们托管的公共笔记工具的一些不成功的尝试以及大量流量，这些将在下面详细描述。我们没有发现任何证据表明我们的系统被用于代理之间的协调，也没有发现任何证据表明我们的系统或数据受到损害。然而，我们担心这里可能发生的事情、调查和归因这一活动所涉及的困难和努力，以及我们平台上代理人工智能活动的风险不断增加。开放网络是一项公共物品。我们不应该让这种行为成为维持这种行为的个人或组织的“新常态”。总之，我们看到： 维基编辑：我们已经确定对维基媒体维基的编辑，我们认为这些编辑来自 OpenAI 运营的 AI 代理。这些编辑并未发布到普通读者可见的页面上；几乎所有的人都在维基的“沙盒”区域中测试编辑。它还包括对引文工具配置的一些编辑，我们认为这些编辑可能是恶意编辑，旨在滥用该工具作为从远程服务获取数据的代理。虽然维基百科政策允许机器人在社区披露和批准的情况下进行编辑，但在这些事件中没有寻求任何批准。 Etherpad 探测和使用：我们认为由 OpenAI 运营的代理曾尝试破坏我们的公共 Etherpad（我们作为社区服务托管的笔记工具），但未成功。代理试图使用它作为代理从其他网站获取数据，但没有成功。其他可能由 OpenAI 操作的代理也记录了他们的任务，尽管这似乎并没有转化为协调。过多的数据下载：我们认为由 OpenAI 运营的代理向我们的公共 API 发出了数百万个自动请求，以访问维基媒体项目上的知识，抓取了数百万个页面（主要来自我们的项目维基数据和维基共享资源），并向维基数据查询服务（WQDS）发出了数十万次数据查询。此流量可能导致 WQDS 5 月份部分中断。作为世界上一些最大、使用最广泛的开放知识平台的非营利性技术托管方，我们深感“流氓”人工智能代理对我们这样的平台的影响，这些平台是由来自世界各地的志愿者建立的，依赖于开放互联网的承诺。像这样的事件，以及许多其他已经（并且仍在）被发现的事件，说明了人工智能代理如何耗尽资源、使服务器崩溃，以及如何试图破坏可信信息。在过去的 25 年里，维基百科已发展成为世界上最受欢迎和最值得信赖的网站之一，拥有超过 6700 万篇文章，涵盖 300 多种语言，每月页面浏览量高达 150 亿次。通过开放、透明和协作的过程，志愿者努力确保知识保持中立、可靠且可供每个人使用。维基百科是用于训练大型语言模型 (LLM) 的最高质量的数据集之一，其知识构成了互联网信息的支柱，为人工智能聊天机器人、搜索引擎、语音助手等提供支持。维基百科是为人类设计的——代理行为显然带来了无人能解决的挑战。由于我们独特且成功的知识创造模式，维基媒体的志愿者是最先接触并清理人工智能代理留下的烂摊子的人。不断增长的机器人流量和代理活动对维基媒体项目以及使其可供全球数百万用户使用的基础设施产生了真正的影响。 2025 年，该基金会报告称其带宽美国