Muse 为您所有的朋友和家人创建详细的档案

欢迎来到内核恐慌！ ，莉莉·海·纽曼 (Lily Hay Newman) 和马特·伯吉斯 (Matt Burgess) 撰写的每周时事通讯，来自隐私和数字安全的新世界。要每周在您的收件箱中收到此新闻通讯，请在此处注册。 Meta 的新个人助理 Muse 已成为病毒式热门产品，数百万人下载了这款人工智能代理，将其连接到银行账户、消息或健康数据，并允许其为他们完成任务。但随着 Muse 在消费者中的普及，来自应用程序内部的数据可以深入了解它如何组织并向用户呈现信息。最近几天，多名研究人员提取了 Muse 的内部文件并转储了该代理的操作指令，让人们得以了解该系统的构建和行为方式。 Meta 坚称，为了透明起见，其目的是让这些文件可供访问，并且它们确实提供了有关 Muse 如何响应有关高度政治化或敏感主题等提示和问题的见解。独立人工智能安全研究员 Karan Joshi 能够通过使用常规聊天界面提取大量 Muse 指令和系统提示，实质上要求 Muse 复制和共享自己的软件文件。乔希随后与《连线》杂志分享了他的发现。 Muse 的指令之一似乎是能够“为用户生活中的每个人创建一个页面”。说明称，这个每小时的过程涉及收集有关家人、合作伙伴、朋友、同事、“合作者”和你“关注”的人的数据。总的想法是，Muse 可以使用它的“记忆”（又名结构化文本文件）来收集有关您的人际关系和生活中重要人物的信息。然后，它可以提出建议，例如就如何改善特定关系提供指导，或者例如带喜欢咖啡的朋友去哪里吃早餐。当然，人工智能聊天机器人跟踪一般社交信息并不罕见——人们多年来一直向 ChatGPT 寻求关系建议。但考虑到 Meta 的历史和对社交网络数据的广泛访问，了解 Muse 的建立方式很有趣。 “从所有这些提示、系统技能数据以及他们输入到 Muse 的内容来看，在我看来，他们想要了解你与真实的人之间的关系，”乔希说。 “他们试图像朋友一样了解你，这真的很令人毛骨悚然。” Muse 的文档称，一个页面可能一开始是“稀疏”的，然后随着时间的推移而被填充，可能包括事实、历史、关系、共同点、开放线程和强化等部分。 Meta 的指示称，Muse 应该只使用现有的“证据”，而捏造的细节比空白页面更糟糕。