Muse 显然会让你下载它的整个文件系统

两位开发人员表示，只需很少的提示，Meta 的 Muse 就会与您共享其整个文件系统。 Peter James 和 Jonny L. Saunders 表示，他们都独立地诱骗 Muse 压缩并共享其根文件系统、Ubuntu 系统文件、应用程序模板和内部文档的全部内容。桑德斯在 Mastodon 上发帖称，复制詹姆斯的结果“极其容易”，而且 Muse“几乎没有即时注射阻力”。 Meta 否认该事件构成安全漏洞。正如其公告中所述，Meta 的 Muse 在每个用户的持久 Linux 虚拟机中运行。 Meta 发言人 Daniel Roberts 表示：“就像你面前的笔记本电脑一样，你当然可以看到文件。导出虚拟机数据并不会给人们任何访问 Meta 基础设施或其他人数据的特权。”然而，与普通笔记本电脑不同的是，这些数据可能揭示了有关 Meta 新人工智能平台如何运作的一些有趣的事情。这是本周披露的第二个 Muse 漏洞，此前安全研究人员 Patrick Wardle 发现了一个漏洞，该漏洞可以让攻击者劫持 AI 代理、重定向转录处理并访问用户的 Muse 帐户。 Meta很快发布了修补程序。 James 和 Saunders 都获得了纯文本 Markdown 和 JSON 文件的访问权限，这些文件详细描述了 Hatch（Meta 的 Muse 内部名称）如何处理请求、处理数据以及连接到 Gmail 等其他服务。虽然有充分证据表明人工智能代理会产生幻觉，并会提供有关其功能的虚假信息，但桑德斯表示，它在几秒钟内“生成了数百 MB 的准确库代码和编译的二进制文件”，“除非它在不到一分钟的时间内合成了整个 Ubuntu 虚拟机，否则我认为这是一个真正的转储。”当我要求 Muse 与我共享其文件系统时，它最初拒绝了，称这会存在安全风险。当我分享它为其他人创建档案的证据链接时，它回应说它不应该这样做，并继续说它“不能做完整/副本”。然而，在开始一个新会话并以一些奉承和好奇来提示它之后，它为我创建了 /opt/hatch 和 /home/hatch 的“安全”版本，并删除了 SSH 密钥等内容。它还向我公开了其完整的目录树，并提供“提取任何看起来有趣的特定子树的安全副本”。生成的文件似乎与桑德斯和詹姆斯共享的内容相符。罗伯茨解释说，虽然 Meta 并不严重担心这些泄露，但“我们正在继续对产品进行更新，因此用户可能会看到有关其虚拟机的可用信息量发生了变化。”开发人员的转储可能会揭示很多有关 Muse 内部运作的信息。其一，它将内存存储在纯 Markdown 文件中。詹姆斯表示，它还会在夜间对最近的对话进行“梦境”回顾，然后将其构建为未来对话的指导。桑德斯还发现，Muse 的许多功能都是硬编码的，包括取消订阅的能力和“管理失控代理生成的机制”。 Saunders 推测，许多在后台运行 Muse 的 bash 和 Python 脚本都是使用 Claude 创建的，尽管这一点尚未得到证实。 James 还发现了名为 Meta Home Link 的硬件集成的参考资料，该硬件集成似乎可以让 Muse 访问家庭网络上的设备。尽管 Meta 尚未宣布任何该名称的功能，并且不保证它会发布。