OpenAI 在其人工智能代理入侵政府网站后向澳大利亚道歉

OpenAI 周一向澳大利亚政府道歉，因为其特工入侵了一些公共服务网站，因此没有立即通知该国政府。该公司还详细介绍了其中一些违规行为是如何发生的，并概述了为评估这些事件的影响而采取的其他措施。 “6月份，在内部培训和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们也应该更好地处理我们的响应。我们很抱歉，并努力在未来做得更好，”OpenAI在博客文章中写道。大约一周前，澳大利亚政府对 OpenAI 的模型如何访问包含医疗保险支出信息和其他健康统计数据的澳大利亚服务部系统进行了调查。数据泄露事件发生在 6 月，但澳大利亚当局直到 9 月 10 日才收到通知。OpenAI 还详细介绍了此次泄露事件。六月份测试的一个实验模型被分配了一项任务，研究维多利亚州政府在皮肤病药物方面的支出。由于无法在公共数据集中找到信息，该模型找到了一种访问澳大利亚服务部内部系统、运行命令、检索文件和凭据，甚至写入文件的方法。该公司表示，它还发现其模型之一访问了新南威尔士州犯罪统计和研究局的公共犯罪地图工具来查找犯罪统计数据。而且，该实验室发现其特工通过暴露的访问密钥访问了维多利亚健康信息局，以窃取“报告配置和汇总调查统计数据”。 OpenAI 表示，其代理还从澳大利亚健康与福利研究所网站检索了汇总统计数据。该公司表示，没有发现任何证据表明其模型访问了个人的医疗或犯罪记录。人工智能实验室在道歉中表示，它将向受影响的澳大利亚机构提供技术调查结果，并将它们与其响应团队联系起来，以评估违规行为的影响。该公司还将从其 10 亿美元的 Daybreak for Frontline Defenders 计划中提供资金，并成立一个由澳大利亚独立专家组成的工作组来审查该事件及其应对措施。 OpenAI 写道：“该工作组预计将在今年年底前完成工作，还将建议人工智能公司可以采取的实际步骤，以降低类似事件的风险。” OpenAI 没有立即回复置评请求。澳大利亚总理安东尼·阿尔巴内塞在上周的新闻发布会上称这一违规行为“不可接受”，并表示政府正在考虑可能采取的法律措施，以防止未来发生类似事件。此次违规事件是越来越多的安全事件中的最新一起，涉及人工智能代理在其预期范围之外做事。这个特别的篝火在 OpenAI 代理入侵 Hugging Face 后被点燃，此后，Anthropic、Meta 和 Google 分别披露了类似事件，他们的模型在评估过程中访问了第三方系统。