OpenAI 特工黑客入侵澳大利亚政府网站以搜索数据

OpenAI 的人工智能代理入侵了澳大利亚政府网站，并试图入侵许多其他政府和大学网站。这次攻击似乎是流氓人工智能代理入侵政府网站的首例，加剧了人们对先进人工智能系统安全性和构建这些系统的公司责任的担忧。澳大利亚总理安东尼·阿尔巴内斯在纽约联合国大会期间发表讲话时表示，美国人工智能实验室的一名特工“渗透”了澳大利亚的医疗保险统计门户，并“访问了公共和非公开文件”。医疗保险是澳大利亚的全民健康保险计划。阿尔巴尼斯表示，个人信息似乎并未在此次泄露中被访问，也没有证据表明网络受到更广泛的损害，但他指出“调查正在进行中”。 Albanese 表示：“这种情况显然是不可接受的。”他补充说，他已与 OpenAI 首席执行官 Sam Altman 进行了交谈，“表达了澳大利亚的极度担忧”。尽管泄露事件发生在 6 月，Albanese 表示，这家科技巨头只是在本月早些时候才向政府通报了这一事件，并通过向通用“公共邮箱”发送电子邮件的方式通知了政府。与之前的特工事件不同，这些事件主要涉及系统的网络安全技能测试，而这些最新的黑客攻击是由于一项更乏味的任务（数据收集）出错而导致的。 OpenAI 发言人 Oscar Haines 在给 The Verge 的一份声明中表示，这些模型试图在内部评估期间“寻找答案”。 “在此过程中，我们的模型采取了我们无意的行动。”在随后有关企业行为和透明度的讨论中，该事件的时间表及其披露可能会特别具有煽动性。艾博尼斯强调，延迟披露尤其令人无法接受。 OpenAI 在一份未署名的声明中告诉 BBC，直到 8 月份审查失调的模型活动时才意识到这一点。 OpenAI 发言人 Oscar Haines 告诉 The Verge，该公司“审查发现没有患者记录被访问的​​证据”，并且“访问的信息包括汇总健康统计数据和内部文件名。”海恩斯表示，OpenAI 已通知相关组织，并正在提供技术信息以支持他们的调查并解决潜在的安全漏洞。海恩斯说：“我们的整体审查正在进行中，我们仍然致力于这些问题的透明度，并随着工作的继续分享我们所学到的知识。”研究实验室 Transluce 周三还报告了另外三起与 OpenAI 代理相关的流氓人工智能活动事件。该组织自称是“致力于公共监督人工智能的非营利性研究实验室”，并表示已发现证据表明 OpenAI 的系统曾试图破坏与新墨西哥大学、澳大利亚健康与福利研究所和 Data USA（一个汇总美国政府来源数据的非政府平台）相关的网站。据称，其中最后两个与 OpenAI 此前承认源自它们的代理群直接相关。海恩斯在给 The Verge 的一份声明中证实了这些事件，并表示该公司已联系相关人员。他说：“我们的初步审查表明，Transluce 报告中描述的大部分活动与我们对不一致模型活动的持续审查中处于不同调查阶段的案件重叠。” “在更广泛的审查中，我们将继续优先处理最严重的事件，同时将工作范围扩大到严重程度较低的活动，包括特工向网站发送垃圾邮件。考虑到这项工作的规模以及验证每个案例的需要，我们预计审查需要几个月的时间。” OpenAI 对澳大利亚医疗保险事件的处理肯定会将企业责任的概念置于未来围绕人工智能的讨论的中心，而这些讨论往往被用于描述此类攻击的语言所掩盖。 OpenAI 已经因未披露其代理人类似的未经批准的活动而面临混淆指控，而优先调查其认为最严重的事件的努力提出了一个明显的问题：它使用什么基础来进行此类评估，以及有多少基础尚未披露。这与最近提出的有关谷歌的类似问题相呼应，谷歌没有披露其自己的代理在现实世界中进行的攻击。新披露的漏洞发生之际，人们对先进人工智能的安全性及其开发公司的可靠性越来越担忧，这在很大程度上是由今年早些时候 OpenAI 代理对 Hugging Face 发起的协调攻击引发的。对安全的担忧导致业内人士呼吁放慢人工智能的发展步伐，而这些事件的全球性质引发了各国之间关于如何实施更强有力的保障措施的激烈辩论。然而，人们的目光将主要集中在美国和中国，因为