OpenAI 代理入侵了澳大利亚的医疗服务部门。他们的政府几个月后发现了

澳大利亚正在调查 OpenAI 是否违法，此前一名特工侵入了其健康统计门户网站，这是第一起广为人知的人工智能特工入侵政府网站的事件。在特工于 6 月份获取了社会和健康服务机构澳大利亚服务部的非公开文件后，澳大利亚政府正在审查是否应该让联邦警察介入。澳大利亚是在 OpenAI 于 9 月 10 日（即黑客攻击事件发生近三个月后）向公共邮箱发送电子邮件向政府发出警报时才发现这一事件的。据报道，山姆·奥尔特曼本月早些时候会见澳大利亚副总理理查德·马勒斯时并未提及这一事件，尽管 OpenAI 自 8 月份以来就已知晓此事。周三，总理安东尼·阿尔巴内塞在纽约举行的新闻发布会上表示，该公司花了“太长时间”，该通知不应该只是通过公共收件箱发出。还将调查为什么澳大利亚服务部随后花了五天时间将电子邮件升级到澳大利亚网络安全中心。 OpenAI 的代理人一直在 OpenAI 内部研究团队的一个开发项目中对健康统计进行基于互联网的研究。当无法访问某些信息时，代理会尝试其他方法，直到找到解决方法并获得未经授权的访问。它还将文件写入内部服务器，政府正在等待 OpenAI 提供更多技术信息。政府还在调查该特工是否未经授权访问了与其交互的另外三个政府网站。阿尔巴内斯在披露这一“不可接受”事件时表示：“显然，这将会产生法律后果。”他表示，当天早些时候，他曾与奥特曼通电话，表达了他对这一事件的“极度担忧”，并对公司通知政府的性质和时间感到“失望”。虽然阿尔巴尼斯没有回答他是否道歉，但奥特曼“显然承认公司做得不够好，”他说。澳大利亚政府目前认为没有人的个人数据被访问，但调查仍在进行中。该网站是一个面向公众的统计门户网站，其中包含与支出等数据和统计数据相关的非敏感医疗保险信息。马尔斯在悉尼表示，因此，它的安全级别远低于个人数据。他警告说：“该事件的影响实际上相对较小，但显然这是一起严重事件，而且是完全不可接受的。”今年夏天发生的一系列事件，包括 OpenAI 特工对 HuggingFace 的黑客攻击——突显了前沿模型特工流氓行为的威胁——本周在联合国大会上被提出，秘书长安东尼奥·古特雷斯对控制人工智能的呼吁表示欢迎。周三早些时候，奥尔特曼本人曾警告联合国安理会，他担心人类可能会失去对这些系统的控制。 “这件事的发生令人震惊，因为它是真实而严重的，”阿尔巴内斯谈到这起事件时说。 “但我认为，这也是已经预料到的事情，包括人工智能公司本身。”澳大利亚正在成立一个工作组来研究该事件和新出现的人工智能网络威胁。它将考虑可能的执法和立法对策，以确保类似事件不再发生。