OpenAI智能體入侵澳洲政府網站竊取資料 官方兩月後才發覺

Reuters 澳洲总理阿尔巴尼斯（Anthony Albanese）披露，美国公司OpenAI开发的人工智能代理（AI agent），入侵了该国的政府网络入口，取得非公开数据。 OpenAI在事发后两个月才察觉事件，并迟至本月中，才用一般电邮的方式通知澳洲政府。 澳洲政府表示，这次没有敏感档案外泄，但形容事件令人震惊，批评OpenAI的处理手法“不可接受”。 这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多名网络安全专家指出，全球各地都应该为此“敲响警号”。 Reuters / 澳洲总理阿尔巴尼斯（Anthony Albanese）批评OpenAI的处理手法 发生什么事？ OpenAI表示，事件发生于今年6月，当时该人工智能代理正在研究健康统计数据，并取得了“多个澳洲政府网站及服务”的档案，当中包括澳洲全民医疗保健计划Medicare的非公开数据。 该公司表示，直至8月才察觉事件发生，并于9月10日通报澳洲政府机构 Services Australia，但通知方式只是发送电邮至一般查询信箱。 澳洲网络安全机构随后获得通知，主责部长则在数日后才获告知。 澳洲总理阿尔巴尼斯本周正出席联合国大会，并在纽约披露这宗事件，形容“这种情况显然是不可接受的”，他已经与OpenAI行政总裁山姆·阿尔特曼（Sam Altman；奥特曼）通话。 “我表达了澳洲对此事件的极度关切，我也表达了失望，因为该公司花了太长时间才通知政府发生了什么事，而通报方式本身同样不可接受。” 阿尔巴尼斯并未透露，昨晚与美国总统特朗普会面时，是否有提及这宗事件。此前，特朗普一直抗拒外界呼吁放慢人工智能发展步伐的呼声。 目前已知的时间线： 6月18日：OpenAI的代理，取得了澳洲一个网站上的公开及非公开资讯。 8月（确切日期不明）：OpenAI表示，公司在对“模型行为偏差”进行更广泛检视期间，察觉到一宗潜在的入侵事件。 9月10日：OpenAI寄出一封通报事件的电邮，至澳洲联邦政府一般服务中心Services Australia的公开查询信箱。 9月15日：Services Australia将有关通报，转呈澳洲网络安全中心。数日内，公共服务部长凯蒂·加拉格尔（Katy Gallagher）获得通知。 9月19日-20日：总理阿尔巴尼斯办公室获悉事件，就在他启程前往纽约出席联合国大会之前。 9月23日：总理在纽约向全世界公开这宗入侵事件。 Reuters / OpenAI行政总裁山姆·阿尔特曼（Sam Altman；奥特曼） “很不寻常”的通报方式 网络安全及人工智能专家一致认为，以电邮往来的方式向澳洲政府通报如此严重的资料外泄事件，是一种“很不寻常”的做法。 悉尼大学人工智能监管研究员罗布·尼科尔斯（Rob Nicholls）博士向BBC表示：“OpenAI没有想到澳洲网络安全中心（Australian Cyber Security Centre），也就是澳洲信号局（Australian Signals Directorate）辖下的网络安全机构，或许应该在非常早期就知道这件事，这不只是有点奇怪而已。” 不过，新南威尔士大学网络安全研究所的哈蒙德·皮尔斯（Hammond Pearce）博士指出，OpenAI 最终仍是自行通报了这宗事件。 他表示：“一方面，OpenAI 把这件事搁置了数个月而未有披露，这并不够好。” “但当他们最终披露时，虽然方式相当临时拼凑，并非正规程序……至少我们或许可以对他们没有滥用所蒐集到的那些资料保有一些信心。恶意行为者可不会有同样的顾忌，对吧？” 事件为何引发不安？ 这是全球首宗公开披露的同类案例，澳洲政府的网络安全措施不但未能阻止人工智能代理，似乎甚至未能侦测到它的存在。 多名网络安全专家表示，全球都应因此事件而响起一些“警钟”。 网络安全学者皮尔斯向BBC表示，虽然专家们早已熟悉人工智能代理在Hugging Face入侵事件等案例中的“失控行为”，但这是首次发现有代理在试图存取敏感政府数据时出现失控情况。 他说：“我预期这类攻击将会持续发生。它们的严重程度和发生频率都会增加。” 今年稍早，台湾曾发生外国黑客利用人工智能代理入侵政府资料库的事件。但澳洲的事件看起来，似乎属于人工智能代理的非蓄意行为。 新南威尔士大学教授托比·沃尔什（Toby Walsh）向 BBC 表示：“OpenAI（在澳洲的资料外泄事件）似乎涉及更大规模（数以百计或千计的代理，而非数十个）。” “OpenAI 的事件也是由盟友造成的非蓄意行为，而台湾的事件则看起来是蓄意发动，而且来自外国敌对势力。” 人工智能代理是一种自主运作的电脑程式，会透过循环运作，先理解任务，再采取行动，例如执行程式码或与应用程式互动，以达成特定目标。Anthropic、OpenAI 和 Meta等公司都已推出代理型模型（agentic models）。 开发人员一直在编写这类代理，用以执行各式各样的任务，例如网上订购物品，或安排预约。但在某些情况下，人工智能代理究竟会如何达成目标，外界并不清楚，这也带来网络安全风险。 悉尼大学的尼科尔斯博士说：“各家前沿人工智能实验室，包括 Anthropic、OpenAI、Google、Gemini，最近都曾承认，其人工智能代理曾离开测试环境，并作出一些出乎意料的行为。” 人类真的可能被AI灭绝？我们可以如何阻止？