Instinct 强大的人工智能助手引发隐私和安全担忧

每个人都在谈论 Instinct，这是一款仍处于私人访问状态的人工智能个人助理，不仅因为其令人难以置信的功能，还因为其潜在的隐私问题。该代理是名副其实的监工，被誉为“像魔法一样”，是自 OpenClaw 以来“最令人兴奋的发布”之一。然而，一些测试人员也对人工智能代理的安全模型及其令人担忧的服务条款提出了担忧。公平地说，《本能》目前仍处于私人测试阶段，因此这些担忧目前尚未扩展到更广泛的公众。总部位于旧金山的 Instinct 由前 Sierra 研究科学家 Noah Shinn 领导的一个小团队创建，根据其条款和加州商业文件，由 Spear Street Technology 运营。根据 PitchBook 的说法，它目前正在秘密运行。 AI 代理本身通过​​连接到您的应用程序和设备来工作，包括您的电子邮件、消息应用程序、日历以及设备的音频、位置、屏幕等。您可以给代理发短信或通过短信或 WhatsApp 致电，要求其为您执行各种任务，例如预约和预订、安排前往机场的乘车、清理收件箱、组织重要信息、处理您的购物、查找廉价航班等等。尽管测试人员认为 Instinct 的表现超出了他们的预期，但一些人也对该公司在客户隐私和安全方面的做法表示担忧。这就提出了一个及时的问题：为人工智能提供这种级别的访问权和自主权的权衡实际上值得吗？例如，一些人正在传播该公司服务条款的屏幕截图，该条款授予 Instinct 广泛的“永久且不可撤销”的许可，以“访问、使用、托管、缓存、存储、复制、传输、显示、发布、分发和修改”任何用户的材料，包括用于训练其人工智能模型的材料。这些条款还详细说明了 Instinct 如何从用户设备接收信息，包括屏幕截图、光标移动和键盘输入。这些条款还允许 Instinct 代表用户签订具有约束力的“协议、承诺或交易”。一位早期采用者 Peter Yang 指出，当被要求时，Instinct 不会删除他的 Gmail 记录。 （他说，该团队后来通过在其设置中添加一个删除外部数据的工具解决了这个问题。）另一个人 Claire Vo 发现 Instinct 在断开访问后仍在总结他们的收件箱。当她询问 Instinct 发生了什么事时，机器人确认电子邮件以纯文本形式存储以供以后搜索。许多其他人也质疑安全模型。当一位测试人员发现 Instinct 能够从他们的电子邮件收件箱中提取注册码来完成特定任务时，他们有点担心 - 在他们的例子中，通过 Resy 在餐厅预订餐桌。 Hello Patient 联合创始人 Alex Cohen 写道，一旦他发现 Instinct 很容易被网络钓鱼，他就删除了自己的帐户：此外，Moxxie Ventures 创始人 Katie Jacobs Stanton 表示，Instinct 在没有事先与她核实的情况下代表她发送了一封电子邮件，这打破了她的信任。 “我们正在用隐私和控制权来换取超个性化人工智能工具（人工智能记事本、个性化人工智能代理等），但通常并没有完全理解这一交易，”她在 X 上评论道，总结了个人人工智能代理所面临的困境。 “这些特工变得越强大，信任就越重要。每一次成功的行动都会赢得更多的信任。一次未经授权的行动可能会将这种信任重置为零，”她说。被 Spotify 收购的 Anchor 创始人、现任 Union Square Ventures 的普通合伙人迈克尔·米尼亚诺 (Michael Mignano) 指出，像 Instinct 这样的产品将“改变消费者的现代安全规范”，并补充道，“人们将越来越多地将密码交给 3p（第三方）应用程序，而不知道他们如何存储或存储什么内容。”自从 OpenClaw 出现以来，人们对 Instinct 和个人人工智能的兴趣与日俱增。OpenClaw 是一款个人人工智能助手，因其强大的功能而广受欢迎，促使其创始人加入 OpenAI，帮助开发下一代个人代理。另一位基于消息传递的助手 Poke 也刚刚退出 Cognition。在批评声中，Instinct 团队尚未回应任何人对 X 的担忧或投诉，而是保持低调。 （机器人本身识别出同样是 Sierra 员工的 Luca Borletti 参与了该公司，但这一点尚未得到证实。）TechCrunch 从多个投资者处获悉，Kleiner Perkins 和 Conviction 已经投资了这家初创公司，这些轮次现已结束。直接发送到该初创公司主要电子邮件地址和 Shinn 的评论请求尚未得到回复。