Meta 推出的 Muse AI 助手存在严重安全漏洞

Meta 创始人兼首席执行官马克·扎克伯格不遗余力地宣传其新人工智能助手 Muse 的安全性，声称它“是为了隐私和安全而从头开始构建的”。一个零日漏洞使本地运行的应用程序和终端命令能够完全控制代理，这引起了严重的怀疑。周日，亚马逊开始屏蔽 Muse 的网站，这进一步引发了质疑。 Meta 几周前推出了 Muse。助理可以“预约、填写表格并处理客户服务”，“主动地从你的工作中分担任务”，并且可以“进行购买、生成图像、创建文档以及与你最喜欢的应用程序和服务连接。” macOS 应用程序（奇怪的是，没有 Windows 版本）还可以与用户的 WhatsApp、电子邮件、日历和社交媒体帐户配合使用。当一项任务需要一个不存在的工具时，Muse 会即时创建一个。 Meta Doth Hype Muse 安全性太高 当然，要让 Muse 执行上述任何操作，用户必须首先授予其访问其帐户的权限。这包括对每项服务的助手进行身份验证，并且由于该应用程序在 macOS 上运行，因此授予其访问各种操作系统限制的设备资源的权限，例如将文件写入磁盘、访问麦克风和摄像头以及监控位置和日历。苹果花了数年时间开发这些防御措施，以防止已安装的应用程序或输入终端的命令访问这些资源，显然是因为该公司认为它们是安全威胁。 Muse 完全取消了这些默认措施。零日漏洞允许任何应用程序或终端命令访问令牌，以验证用户的 Muse 帐户身份。 Meta 开发人员设计了该助手，以便任何本地安装的应用程序或执行的代码，无论其具有 macOS 权限如何，都可以更改一长串未记录的设置。其中大多数都是相当无害的，例如控制黑暗模式。然而，有一种环境绝非无害。它允许进程更改转录发生的端点。通常是Meta运营的服务器地址。攻击者可以通过将位置更改为自己的端点来利用此缺陷。如果发生这种情况，攻击者将拥有完全控制 Muse 帐户的代币。发现零日漏洞的 macOS 安全专家帕特里克·沃德尔 (Patrick Wardle) 在修补程序发布之前告诉 Ars：“我们可以操纵代理并利用其特权做任何我们想做的事情。” “因此，我们不必编写非常全面的 Mac 恶意软件窃取程序，而是可以利用人工智能助手本身。”沃德尔表示，他已经开发了几种概念验证攻击，这些攻击可以执行诸如将恶意文件写入磁盘和拍摄图片等操作，在许多情况下，甚至没有任何迹象表明用户发出警报。在这篇文章发布 12 个多小时后，Meta 表示它发布了一个修补 0day 的修补程序。 Meta 在几周内发布了两篇文章，记录了确保对用户数据和资源具有如此特殊访问权限的助手的安全和私密性的设计决策。这些帖子发布之际，有消息称，对 Anthropic 和谷歌模型的内部测试导致了外部第三方网络的安全漏洞，而相关工程师从未打算针对这些漏洞。在传统的仅限人类的黑客攻击中，这些行为可能会导致提起刑事指控。元帖子可能会注意到由此产生的反弹以及减缓人工智能开发的呼声。 Wardle 表示，Meta 开发人员做出了多项设计决策，使他的利用成为可能。一种是选择在云端进行 Muse 听写，Meta 可以在云端记录它。 macOS 长期以来一直为应用程序提供了一种简单的方法来处理安全地保留在设备上的进程中的听写和转录。如果开发人员选择这种更安全的替代方案，攻击就不可能发生。