人工智能代理制造商承诺保护隐私——他们会兑现吗？

在今年的 OpenAI DevDay 上，首席执行官 Sam Altman 推出了该公司的新人工智能代理 Dots，并告诉观众该公司希望“为前沿人工智能领域的隐私制定新标准”。 OpenAI 花了一天时间对其主要竞争对手 Meta 的 Muse 进行了含蓄的批评，指责其未能保证用户数据的安全。然而，几个月前，Muse 本身已经推出，据称是比前身 OpenClaw 更安全的替代品，首席执行官马克·扎克伯格 (Mark Zuckerberg) 承诺，它“是为了隐私和安全而从头开始构建的”。在公司囤积客户个人数据、网络攻击屡见不鲜的时代，人工智能实验室正试图说服用户与他们的代理分享更多信息。他们最新的成功战略是通过承诺与竞争对手不同，他们将确保用户数据不被窥探，从而提高竞争力。问题是企业能否信守这些承诺。 Meta Superintelligence Labs 的产品负责人 Nat Friedman 在 X 上写道，该公司“muse 的目标是打造像 openclaw 这样的东西，我们可以让它安全可靠、易于使用，并扩展到数十亿人。”用户数据存储在安全的虚拟机上，扎克伯格将其描述为“具有浏览器、CPU、内存和存储的隔离 Linux 计算机”。该公司表示，建造 Muse 的大部分努力都与“精心设计和工程以更安全地操作”有关。 Meta 的博客文章继续说道：“Muse 可能而且仍然会犯错误，但由于我们内置的安全系统，我们预计错误的频率会大大降低，造成的损害也会少得多。”不过，尽管 Muse 在 App Store 排行榜上名列前茅，并且根据 Apptopia 的数据，几周内美国的每日活跃用户就增加了 60 万，但 Meta 的承诺似乎没有兑现。尽管数据与其他用户隔离，并且该公司计划在今年晚些时候推出一种“以加密方式和可验证方式阻止 Meta 访问虚拟机中的数据”的方法，但 Meta 本身仍然可以访问数据。一名安全研究人员很快暴露了一个零日漏洞，该漏洞可能允许某人控制 Muse（该漏洞已被修补），引发了人们对外部攻击的担忧。据 404 Media 报道，据报道，在发布前的最后一刻突然出现了多个严重的安全问题，其中一个问题可能允许用户访问 Meta 自己的内部数据库。 Muse 似乎还慷慨地收集（在某些情况下，分发）数据。它默认允许 Meta 根据用户输入的内容来训练模型，但也可以选择退出。 Inc. 的一名记者抱怨说，Muse 在未经他要求的情况下上传并阅读了他的私人信息，而一名 YouTuber 则表示，Muse 通过 Marketplace 向陌生人提供了他的地址——在这两种情况下，Muse 显然都按预期运行，但用户没有意识到它会走多远。据《连线》报道，该平台创建“你所有朋友和家人的详细资料”。这些都不一定是 Meta 意想不到的，但它肯定不能支持 Muse 具有独特的隐私或安全意识的观点。 OpenAI 抓住了这一事实，在 9 月底宣布了 Dots。 OpenAI 的 Codex 产品负责人 Alexander Embiricos 在 DevDay 上表示，OpenAI 专注于拥有“最值得信赖、最安全的助手”，而首席执行官 Sam Altman 则展示了人们可以对个人 Dot 进行控制的方法，例如制定一条规则，禁止购买超过一定金额的商品。 OpenAI 应用平台负责人格伦·科茨 (Glen Coates) 表示：“我认为我们与 Meta 的处境不同，他们没有拥有 12 亿用户的人工智能产品。”他补充道，“我们会尽力避免推出会犯此类错误的产品。” Altman 本人也在 DevDay 上提出了隐私角度。为了吸引企业客户，高管们提出了一个框架，允许企业对其数据进行“更强的控制”，并提供零数据保留策略选项（意味着 OpenAI 服务器上不存储任何数据）。事实上，到目前为止，Dots 还没有发生太多隐私丑闻——尽管由于它仅适用于 100 美元及以上的 ChatGPT 订阅级别，所以使用它的人也可能较少。人们可能仍然不愿意向 OpenAI 提供个人数据，部分原因是人工智能代理需要大量数据。例如，当机器人在相关任务中询问时，The Verge 的 Allison Johnson 在输入银行信息时感到不舒服（Muse 有一个 Stripe 集成来处理这个问题）。当然，并非所有公司都做出隐私承诺。据报道，Instinct 因服务条款过于宽泛而受到公开批评，该条款使其能够不受限制地访问数据；此后，该公司似乎做出了调整。目前，人工智能实验室似乎正在依靠一种由三部分组成的方法来向公众普及人工智能代理的使用：让它们变得有用，让它们变得可爱和解除武装，以帮助抵消令人毛骨悚然的感觉，并做出关于隐私的承诺——