ChatGPT Mac 应用程序中的缺陷可能让黑客窃取敏感数据

最近几乎每天都有人工智能代理自主黑客网站或人工智能工具被网络犯罪分子和诈骗者使用的消息。但最近修补的 OpenAI 的 ChatGPT macOS 版本中的漏洞突显了随着这些应用程序越来越多地扩散，攻击者破坏 AI 软件本身的潜在价值。该漏洞可能被利用来从本质上接管受害者计算机上的 ChatGPT，使攻击者能够访问应用程序存储的所有聊天日志和其他数据，以及浏览器会话等互连。该漏洞由 Objective-See 基金会的研究人员发现，说明了人工智能平台为了工作而需要的深度系统访问和信任，以及这给它们带来的目标。 Objective-See 基金会软件分析师兼 macOS 长期研究员 Patrick Wardle 表示：“代理需要大量访问权限才能完成工作。” “它们就像大楼经理一样，可以访问所有房间的钥匙。因此，如果它们被损坏或颠覆，那就非常有问题了。这可能意味着非特权代码可能会访问所有的东西。” OpenAI 于 9 月 25 日在其系统变更日志中公开承认了该安全缺陷并进行了修复。“我们将继续改进我们的安全实践，但认识到需要更快地采取行动，”OpenAI 发言人 Shane Bauer 在一份声明中告诉《连线》。 ChatGPT macOS 应用程序包含多个组件，这些组件通过检查数字签名来安全地相互通信。其想法是通过这些有效性检查来确认这两个进程都是 OpenAI 组件，而不是外部潜在的恶意软件发出请求。系统设计甚至要求在请求的三层中进行签名检查，以确保恶意软件不会以某种方式指示 OpenAI 组件作为代理并发出看似可信的请求。不过，Objective-See 基金会研究人员发现，有一个受信任的组件，即脚本解释器，它可以接受不受信任的脚本（或要运行的命令列表），然后可以进行操作以将该脚本传递到主 ChatGPT 进程中。 “他们还会检查该进程的父进程和祖父进程，但恶意脚本只是生成脚本解释器三次，然后发出请求，以便满足要求，”沃德尔说。他补充说，利用这个漏洞“极其简单”，他的概念验证只需要大约十几行代码。除了访问 ChatGPT 聊天日志外，该漏洞还可用于让 ChatGPT 为攻击者运行命令，例如访问浏览器或其他敏感应用程序，这些请求显示为 OpenAI 软件发出的合法指令。