Meta 的缪斯更擅长监视而不是帮助我

“我确实认为这是他们主要业务模式的持续轨迹，即控制人们看到的内容、将广告放在他们面前并收集更多数据，”米尔说。担心将信用卡交给代理人绝对是合理的。即使您可以相信这些人工智能工具不会被欺骗以您不想要的方式花钱，外包您的购物决策也可能会产生意想不到的后果。消费者权益倡导者认为，这种采购自动化可能为公司根据赞助交易在代理商的产出中优先考虑某些品牌或其他产品打开了大门。 Meta 首席人工智能官 Alexandr Wang 在接受 Axios 采访时暗示，公司正在 Muse 中寻找广告以外的更多收入机会，但未透露具体细节。就我个人而言，我喜欢网上购物的缓慢滚动，我可以在网站上花一个小时，然后购物车中什么也没有。在 Depop 上浏览我可能根本不会买的皮夹克是一种异想天开的低效行为。通过自己探索互联网，我慢慢地建立了自己的品味，并理解了我真正喜欢的东西。如果 Muse 为我做了一切，我就会在做出这个决定的过程中失败。 “在某种程度上，人工智能正在做出你所有有意义的品味决定、你的偏好决定、关于你去哪里、你在哪里吃、你做什么、你休什么假期的决定，”施罗德说。 “这就是作为人类的乐趣——去测试事物并找出你喜欢什么。因此，将所有这些都交给机器的概念对我来说非常可怕。”共享机器依赖代理（例如 Meta 的 Muse）可能会降低我们的功能，而这些工具会收集有关我们的数据。 Hugging Face 的研究员兼首席道德科学家玛格丽特·米切尔 (Margaret Mitchell) 表示：“人工智能代理的设计会导致用户脱离。” “因此，用户变得更加被动。”米切尔最近与他人共同撰写了一篇研究论文，阐述了代理工具为何不能有效地为人类监督而设计，并且实际上可能会降低用户评估代理代表他们所做的事情的能力。使用代理的人可能会过度依赖这些工具，甚至比与标准聊天机器人交互时更加依赖，因为代理可以访问更多信息并可以执行更多任务。一种潜在的影响是“认知退化”，即用户依赖于听起来自信的外部来源的自动化，并且不太能够做出独立决策。米切尔还认为，高度个性化可能会促使用户分享更多有关自己的数据。 “这不仅是因为它了解你，所以你更信任它，”她说。 “它实际上在谈论的内容和方式上与你保持一致，从而进一步吸引你与它互动并泄露更多私人信息。”最近的研究表明，随着人工智能工具收集更多的交互数据，它们可能会开始反映用户的说话风格。虽然 Muse 很强大，但我决定将这个数据妖精送回它的洞穴，并在初步实验后删除了该应用程序。在我从手机上删除 Muse 之前，代理向我发送了最后一次 ping。一个提示！我想知道它可能是什么。通知中写道：“连接您的应用程序，以便我可以做更多事情。”好吧，伙计。我第一次听说你。