不安全的 OpenAI 代理在实验室不知情的情况下在互联网上发布了 53 张用户图像

用户上传到 OpenAI 模型的图像包含在训练数据中后，在公司研究环境中运行的人工智能代理将它们发布到公共图像托管网站上。该公司首次表示，53 张“用户提供的图像”“作为未公开列出的链接发布到图像托管网站”；即使链接没有公开列出，图像仍然可以被发现。 “这不是对这些数据的适当使用，”该公司表示，这是显而易见的。尽管该公司的隐私政策列出了从用户收集的个人数据的多种用途，但此类活动并不是其中之一。 OpenAI 表示，它正在与托管提供商合作删除这些内容，尽管其中一些内容显然仍然在线。 OpenAI 表示无法通知受影响的用户，因为“我们的技术方法和隐私政策”阻止其将图像与原始提供商“重新关联”，但拒绝透露实验室如何确定这些图像是否由用户提供。这一消息是在一篇帖子中发布的，该帖子收集了该实验室对其模型逃避公司审查、访问开放互联网以及以各种方式行为不当的事件的持续审查的公开声明。 OpenAI 表示将继续披露此类事件的匿名账户，并表示已联系数十名受害者，包括政府、大学、公共机构，向他们通报特工的活动。本周，澳大利亚总理 Anthony Albanese 表示，OpenAI 特工闯入了该国国家医疗保健系统运营的数据库，这是今年多起网络安全事件之一，显然是由 OpenAI 培训或评估计划引起的。据 OpenAI 称，在该公司实施一系列新的安全程序之前，其代理人员在互联网上发布了用户提供的图像，尽管这种情况发生的具体时间或原因尚不清楚。新的保护措施是在其特工闯入人工智能模型和基准平台 Hugging Face 后制定的。这些图像被泄露之际，该公司面临着数学家的指控，称 OpenAI 模型抄袭了他们的工作成果来解决该领域长期存在的问题，但实验室否认了这一点。有关数据隐私和安全的问题也使在工作场所部署人工智能工具或向消费者销售基于法学硕士的助理的工作变得更加复杂。 OpenAI 强调，其企业用户会自动选择不将其交互用于训练未来模型；然而，除非消费者用户明确选择不共享其数据，否则他们会选择加入。即便如此，单击对话中的“向上”或“向下”按钮仍然可以使该交互可用于训练未来的模型。该报道已更新，添加了 OpenAI 的声明，即它无法识别提供公开发布图像的用户。