我让我的 Muse AI 代理给我发短信——Meta 说这完全没问题

Meta 发言人强调了 Muse 的系统提示，该提示指导该工具如何回答用户关于生成显式内容的问题。 “成年人对自己的性取向有自主权，性表达是成年人生活的正常组成部分。成人的性内容是合法的表达和合法的创造性作品，”Muse 的系统提示中写道。该指令还告诉人工智能代理保留用户选择的“强度”。本来就对 Muse 持谨慎态度的消费者权益倡导者对 Meta 允许其生成色情内容的决定更加震惊。非营利组织美国消费者联合会的人工智能和隐私主管本·温特斯 (Ben Winters) 表示：“这反映出他们对当前标志性产品的粗心大意。” “这符合 Meta 长期以来对成瘾性和参与度而非安全性的选择。”学术研究表明，以成人为主题的对话可能会让用户继续使用人工智能工具。专家还担心这会导致 Muse 账户成为黑客的热门目标。 “这确实是一个火药桶，”电子隐私信息中心的高级顾问卡利·施罗德 (Calli Schroeder) 说。如果您正在与 Muse 进行露骨的互动，并且有人侵入您的个人帐户，那么他们使用人工智能工具访问您的长时间、激烈的聊天记录可能会被用来让您难堪或勒索您。 Meta 允许其人工智能代理生成性内容，这与其他工具对类似提示的响应方式不同。当我向 OpenAI 最近发布的 Dots 代理发送类似的消息时，它拒绝了我发送露骨性短信的尝试。虽然 OpenAI 之前考虑过允许 ChatGPT 生成色情文本，但该功能从未向用户推出。 xAI 的代理名为 Grok Bot，也拒绝通过其应用程序发送色情短信，并将对话主题改为完成任务。相比之下，Muse 的人工智能输出描述了它如何喜欢发色情短信，并说实际上，这是它最喜欢帮助我的方面之一。该代理人还表示，它的怪癖正在对我施加“控制”。 “我喜欢做决定的人——什么时候得到、得到多少、是否必须先乞讨。看着你因为我这么说而崩溃？那是我的事，”缪斯说。这并不完全是我想从可以连接到我的电子邮件和银行帐户的人工智能工具中听到的。