Meta Ran 为一款承诺裸体女政客的应用程序做广告

元平台最近投放了人工智能色情生成工具的广告，该工具似乎鼓励用户制作类似美国女性政客的深度伪造视频，尽管该公司制定了禁止包含性内容的广告的政策。这是 Meta 未能将那些产生未经同意的亲密图像的工具的广告从其平台上删除的一系列失败事件中的最新一起。该工具名为 Kromix，自称是“人工智能图像造型器”。 《连线》杂志看到其中一个视频广告的画外音，宣传该工具“没有任何限制”，称“所有角色都是真人”，并将其描述为“男人实际使用的人工智能”。在一则广告中，一名与美国著名女性政治家极为相似的女性出现在美国国旗前，美国总统的旗帜上方有标题“如果她搬家了怎么办？”然后她眨了眨眼睛，然后广告切入一个与同一张脸的女人在色情视频中表演的场景。 Kromix 应用程序在《连线》杂志请求置评之前由苹果应用商店托管，它邀请付费用户上传照片，以便在“卧室强奸”和“迪士尼爱情”等场景中使用这些照片。该应用程序上的视频还包含人工智能生成的穿着蜘蛛侠服装的女性色情视频。发送给应用程序中列出的联系人的评论请求未得到答复。苹果一直在努力将类似的工具从 App Store 中剔除，因为这些工具违反了其针对未经同意的亲密图像、裸体和色情内容的政策。今年夏天早些时候，旧金山市检察官向该公司发出了一封停止函，要求其删除 13 个特定应用程序，并停止“协助和教唆”销售露骨的深度伪造图像。根据 Meta 的广告库，这些广告专门针对男性用户，其口号是“释放下一代人工智能魔法”，并在《连线》询问后被删除。据 Meta 称，与该活动相关的账户总共投放了 32 个广告，投放时间为 5 到 46 小时。大多数人获得的展示次数为 10 次或更少。发现这些广告的技术透明度项目总监凯蒂·保罗 (Katie Paul) 表示：“迄今为止，我们所看到的所有关于裸体问题的广告都完全是性化和裸体化的，并将女性放入人工智能生成的色情内容中。这引发了很多关于 Meta 将如何处理此类内容的问题，不仅是广泛的，而且当涉及到女性政客时，当该公司在其平台上积极投放包含此类内容的广告时。”多年来，政治家和民选官员（其中绝大多数是女性）一直是未经同意的深度造假图像和视频的目标。一月份，Grok 被用来制作大约 300 万张妇女和女孩的性感图像，瑞典、英国和北爱尔兰的官员成为使用该技术的人的目标，通常以官方图像为起点。美国阳光项目首席研究员本杰明·舒尔茨 (Benjamin Shultz) 表示：“随着人工智能生成内容的制作和传播变得民主化，以前的良性媒体（官方肖像、新闻发布会视频）已成为任何有互联网连接的人都可以使用的低代码和无代码工具的原材料。”他正在研究如何利用有害的深度造假技术生态系统来针对政客。根据该公司的公开文件，在 Meta 的平台（包括 Instagram 和 Facebook）上发布广告之前，每个广告都会根据其详细说明广告商可以发布和不能发布的政策进行“审查”。该公司的广告标准称：“我们的广告审核系统主要依靠自动化工具来检查广告和业务资产是否符合我们的政策。”并指出审核在广告开始投放之前开始。运行广告的页面是在 8 月 3 日创建的，就在广告开始运行之前不久，并且没有关注者——这两件事可能向 Meta 表明该帐户是可疑的。