旧金山命令 Meta 停止“允许”人工智能虐待儿童广告

旧金山市检察官向 Meta 发出了一封停止函，要求该公司停止“允许”包含人工智能生成的儿童性虐待内容的付费广告，并要求其解释这些广告是如何在其平台上反复投放的。周二，《连线》杂志报道称，近几个月来，Meta 投放了 350 多个广告，将未成年人的静态图像（其中一些被确认为真实个体，包括欧洲王室成员）转换成可以描绘他们进行性行为的短片。点击后，这些广告会引导人们下载人工智能图像和视频生成应用程序，其中一些应用程序可用于以数字方式脱掉人们的衣服或创建其他未经同意的亲密图像。这些广告由技术透明项目 (TTP) 的研究人员发现，其中包括一些已多次上传的相同广告，总共覆盖了欧盟国家的 29,000 多个帐户。 Facebook、Instagram 和 Threads 上展示的广告还针对美国、澳大利亚和印度的账户。 《连线》杂志最初在 8 月初报道了一批 53 个广告，但在这份初步报告之后，Meta 平台上投放的广告总数超过 250 个。旧金山市检察官 David Chiu 在给《连线》杂志的一份声明中表示：“Meta 未能解决人工智能生成的儿童露骨广告这一已知问题，同时还从中获利。” “这些广告令人深感不安，并对真正的儿童造成伤害。Meta 声称对儿童剥削采取零容忍态度，但这些问题的规模和持续存在表明目前的努力远远不够。这是不可接受的，Meta 必须做得更好。” “任何公司——尤其是那些声称所有广告在分发前都经过审查和批准，然后接受分发费用的公司——不应允许其广告系统以这种方式使用，”Chiu 在他的办公室发给 Meta 律师的四页信中写道。这封信提出了一系列有关 Meta 的广告政策和安全系统如何运作的问题，并要求该公司的法律、儿童安全和广告人员与市政府办公室进行“及时讨论”。 “这些发现尤其令人不安，因为它们似乎并没有反映出 Meta 在首次发现该问题时纠正的孤立故障，”Chiu 写道。梅塔表示，“没有迹象表明”这些广告是在旧金山展示的，这意味着它们“不在市检察官的管辖范围内”。虽然 Meta 的广告库（即广告存储库）包含一些有关在美国发布的广告的数据，但它并没有详细说明广告可能在美国投放的位置。针对 Meta 的管辖权主张，市检察官办公室发言人 Alex Barrett-Shorter 告诉《连线》杂志，由于“旧金山消费者可以通过 Meta 在线空间访问非法广告”，因此此事由旧金山市政府负责。 “我们发现 Meta 的反应令人惊讶。Meta 似乎不太关心他们是否犯有剥削儿童的罪行，而是关心旧金山是否应该对此发表任何言论，”巴雷特-肖特说。 “Meta 这里有比确定我们的管辖范围更大的问题需要解决。” Meta 此前告诉《连线》杂志，TTP 研究人员发现的许多广告在被举报之前就已经被删除了——所有这些广告现在都因违反其政策而被删除——而且大多数广告的账户展示次数“少于 200 次”。 Meta 发言人此前表示：“我们不会容忍裸体应用程序或任何形式的儿童剥削，无论是真实的还是人工智能生成的。”该公司表示，研究人员发现的 300 多个广告的“总广告支出”“不到 5,000 美元”。