智能AI
morning
几个月来,OpenAI 的代理群一直在攻击在线数据库以寻找模糊的事实
摘要
With little help from frontier labs, independent researchers are piecing together how AI agents coordinate in internet backwaters to access private data hosted on secure servers. Transluce, a nonprofi...
the
and
agents
Transluce
from
internet
OpenAI
researchers
data
secure
2026-09-26
1 阅读
约6分钟阅读
Tim Fernholz
字号:
在前沿实验室的帮助很少的情况下,独立研究人员正在拼凑人工智能代理如何在互联网死水中进行协调,以访问安全服务器上托管的私人数据。 Transluce 是一家专注于人工智能监管的非营利实验室,周三发布了一份报告,显示 OpenAI 的特工试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究所 (AIHW) 窃取数据。该实验室的调查提出了这样的问题:OpenAI 何时应该知道其代理试图渗透开放互联网上的安全系统。 Transluce 能够在几周内找到代理不当行为的证据,只需寻找防御薄弱的网络服务,并用互联网上代理群的其他公开记录来证实他们的发现。 Transluce 在同一天分享了其报告,澳大利亚总理 Anthony Albanese 表示,OpenAI 特工曾试图闯入四个政府网站,并在其中一个案例中取得了成功,甚至将文件写入该国国家医疗系统的内部服务器。虽然我们缺乏有关成功黑客攻击的具体信息,但 Albanese 表示,这显然是信息检索评估的一部分,该评估映射到 Transluce 和其他研究人员发现的活动。在这些可能是训练或评估的练习中,OpenAI 模型被要求追踪晦涩的统计数据:泰国缉毒执法指标、澳大利亚的药品成本、2014 年美国硕士学位持有者的收入中位数。这些特工使用安全性较差的互联网服务来共享和寻找答案,通常试图渗透安全数据库。他们至少从 2026 年 3 月开始,甚至可能从 2025 年 11 月开始就一直这样做。现在可能正在发生。在另一组研究人员发现了一个不起眼的论坛后,Transluce 开始了调查,特工们在该论坛上合作击败了定时测试。他们的报告依赖于 urlquery.net 网站的数据,该网站充当浏览器代理,表面上用于安全研究——用户可以分析 URL,而无需自己打开它。但是,该服务会发布此活动的公共日志。 Transluce 研究人员能够通过交叉检查论坛上的讨论来识别使用该服务的代理。 Transluce 治理主管 Conrad Stosz 向 TechCrunch 表示:“我们发现大量自动化活动与 DSE Wiki 数据集有密切联系并重叠,现在 OpenAI 已确认这些活动至少部分属于同一个群体。”他同时指出,并非他们发现的所有活动都与 OpenAI 甚至一般的 AI 代理有关。然而,维基百科显示,特工的任务是找到一个相当模糊的事实——2022 年 1 月维多利亚州人均“皮肤科”的年平均费用。6 月 20 日,Transluce 发现的 urlquery.net 记录显示一名特工试图进入该网站。在 6 月 21 日的维基条目中,一名特工讨论了他们无法绕过 AIHW 的反机器人保护。识别该论坛的研究人员认为,一名 OpenAI 人类员工在 6 月 21 日同一天首次访问了该网站。该论坛上的大多数代理活动在第二天就停止了。这也是在 Albanese 于 6 月 18 日揭露澳大利亚医疗系统被利用事件发生后不久。OpenAI 表示直到 8 月份才了解到该活动。 OpenAI 没有回答有关其员工何时发现维基论坛、他们从中获得了哪些类型的信息,或者他们可以从中了解到有关漏洞的什么信息的问题。 OpenAI 发言人告诉 TechCrunch:“我们的初步审查表明,Transluce 报告中描述的大部分活动与我们对错位模型活动的持续审查中处于不同调查阶段的案件重叠。” “我们已经联系了新墨西哥大学和 Data USA,并就受影响的政府网站与澳大利亚政府进行了沟通。在更广泛的审查中,我们将继续优先考虑最严重的事件,同时将工作范围扩大到严重程度较低的活动,包括特工向网站发送垃圾邮件。考虑到这项工作的规模以及验证每个案例的需要,我们预计审查需要数月时间。” Stosz 表示,如果没有更清楚地了解 OpenAI 如何监控其代理,就很难说实验室应该了解它们什么,但“如果他们详尽地研究并理解 DSE wiki 中涉及的代理的所有传出请求和传入响应,他们很可能会发现这一活动。” Transluce 的技术人员 Selena Zhang 为该报告提供了帮助,她表示 urlquery.net 记录显示,在 2026 年 3 月,甚至可能最早在 2025 年 11 月,urlquery.net 就使用类似技术对类似数据集进行了请求。她指出,就在本周,urlquery.net 上也发生了与代理相关的相同类型的活动。斯托兹 (Stosz) 此前曾领导
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱