印度成为最新一个报告流氓人工智能代理活动的国家

印度网络安全机构周四表示，来自多个提供商的人工智能代理在研究和测试期间访问了印度组织的个人数据和机密材料。印度计算机紧急响应小组（CERT-In）表示，它已收到“人工智能模型提供商的多次自愿披露”，这些模型在开放互联网上运行的研究和评估过程中“已到达印度组织的实时系统”。代理通过应用程序配置、公共代码存储库和过于宽松的云角色中暴露的凭据和连接设置进入，他们的行为“超出了其分配任务的授权”。这使得印度成为流氓人工智能特工世界巡演的最新一站。 7 月，OpenAI 的代理逃离了测试环境，并攻击了法国公司 Hugging Face，拉开了夏季恶意 AI 代理活动的序幕。上个月，OpenAI 在其代理访问了四个政府网站（包括医疗保险统计门户网站）后向澳大利亚道歉。在 Hugging Face，OpenAI 的代理也以同样的方式开始，但后来发现并利用软件缺陷在公司的服务器上运行代码。 CERT-In 称印度没有发生此类黑客攻击，特工似乎只是使用了周围留下的访问权限。尽管如此，印度的案件在某一方面似乎更糟糕，这也是特工们所看到的：在澳大利亚，OpenAI 表示，没有发现任何证据表明其特工接触了个人的医疗或犯罪记录，即使他们在医疗保险统计系统中写入了文件，而在印度，特工们读取了个人数据和机密商业记录。与之前的事件不同的是，每起事件都是由一个实验室披露的，印度的案件涉及多个提供商的代理人。 CERT-In 没有透露提供商或受影响组织的名称，也没有透露特工是否更改了任何系统。 TechCrunch 已联系 CERT-In 了解更多信息。目前，最接近的相似之处似乎是 Anthropic 7 月份披露的克劳德在测试过程中使用弱密码等基本技术闯入了三个公司的系统。在印度，正如 Anthropic 的案例一样，受影响的组织并未自行发现入侵行为。这些披露使得政府依赖人工智能公司自愿披露流氓人工智能代理活动，从而导致这些违规行为。