朋友不会让朋友将他们的数据提供给人工智能代理

消费科技领域有一个日益增长的趋势：旨在监视你周围的一切和每个人的小工具，无论其他人是否真正同意。现在，随着像 Meta 的 Muse 这样的“人工智能个人助理”的出现，你不仅会被高兴地要求放弃自己的数据，还会被要求放弃你的朋友、家人、五年前与你进行 Hinge 约会的人的信息，以及几乎所有你曾经接触过的人的信息。自上个月发布 Muse 以来，该代理的下载量已达数百万次，并在苹果 App Store 上排名第一。借助其令人毛骨悚然的虚拟化身——一种有着令人放松的笑容的特姆拉布布式生物——该应用程序请求并鼓励用户授予对银行账户、密码、联系人、聊天记录以及任何可能有助于其执行用户命令的信息的访问权限。 “这些系统被宣传为自主帮手、精灵或仆人，在你提出要求之前，他们会无缝地完成你需要的事情，”广受欢迎的加密消息应用程序制造商 Signal Foundation 的总裁梅雷迪思·惠特克 (Meredith Whittaker) 告诉 The Verge。这些自主操作“不仅适用于在其设备上安装 Muse 的人，还适用于与该人通信的每个人，从他们最私密的信息（电子邮件、消息、联系人、照片等）推断出来。”借助人工智能代理，科技公司将其杂食性的大规模监控扩展到大量敏感数据，让消费者能够自动化执行日常任务。这与硅谷几十年来一直为我们提供的浮士德式权衡是一样的：用你的私人数据来换取一点便利。对于许多人来说，拥有一个虚拟助手来完成填写发票和发送电子邮件等琐碎的任务的想法是很有吸引力的——特别是如果他们没有意识到自己实际上放弃了多少数据作为回报。 Meta 发言人丹尼尔·罗伯茨 (Daniel Roberts) 在谈到与 Muse 共享的其他人的数据时向 The Verge 表示：“对于任何有用并真正帮助你实现目标的代理来说，它都需要了解你以及与你互动的人的背景信息。” “Muse 根据公开信息和你选择分享的内容来收集这些信息，这就是它如何记住刚刚向你发送发票的人实际上是你之前雇用来完成浴室中的一些工作的水管工，或者是你的配偶说他们最喜欢的花。”罗伯茨指出，Muse 的选择加入流程以及各种选项和设置将“帮助人们做出适合他们的隐私选择”。 “用户界面的设置方式旨在鼓励您尽可能多地分享，通常比您意识到的要多，直到为时已晚。”但并不是每个人都能够浏览这些选项和设置。用户已经描述了既令人震惊又完全可以预见的事件。一些人报告说，虚拟助手制造了各种各样的麻烦，比如抓取数百万条他们认为是禁区的短信。 Meta 对助手未经许可即可访问短信的能力提出质疑，再次将事件归因于应用程序权限配置错误，并将 Muse 读取短信的能力描述为“完全选择加入”。在 Threads 上，Meta 高管 David Singleton 直接回复用户，声称在 Mac 上，只有用户授予应用程序完全磁盘访问权限，Muse 才能访问消息。在另一起事件中，缪斯透露了一名技术评论员的家庭住址，并召唤一名陌生人到他的公寓。在这种情况下，相关审阅者已授予 Muse 访问该数据的权限，但他根本没有意识到这一点。电子前沿基金会网络安全总监伊娃·加尔佩林 (Eva Galperin) 表示，这些事件并不奇怪，因为像 Muse 这样的人工智能代理旨在迷惑人们，让他们放弃尽可能多的数据。 “最重要的一点是，人们不明白他们正在提交什么样的数据，”加尔佩林告诉 The Verge。 “用户界面的设置方式旨在鼓励你尽可能多地分享，通常比你意识到的要多，直到为时已晚。它使用了黑暗模式，结果你最终会发现 Muse 做了人们不想要的事情。”由于像 Muse 这样的人工智能代理正在摄取大量数据，这也意味着用户不仅面临着泄露自己敏感信息的风险，还面临着泄露与他们有过数字接触的其他人的信息的风险。就像 Meta 臭名昭著的“变态眼镜”一样，即使您不断监控数据泄露或隐私受到侵犯的迹象，也没有任何有意义的方式可以选择退出。你的朋友现在可以简单地将你所有的私人保护提供给他们的虚拟聊天机器人仆人，而你却无法知道它发生了。安全研究人员提取 Muse 的操作指令后，发现了一个内部流程：