包含人工智能生成的儿童性虐待图像的 Meta Ran 广告

编者注：本文包含对儿童性虐待图像的描述。强烈建议读者自行斟酌。根据与《连线》分享的广告详细信息，在过去的九个月里，马克·扎克伯格的 Meta 投放了数十个付费广告，其中包括人工智能生成的明确的儿童性虐待材料 (CSAM) 和未成年人图像以及性暗示陈述。这些广告在某些情况下覆盖了数千个帐户，针对的是居住在美国、英国和十几个欧洲国家的人们。技术透明度项目 (TTP) 的研究人员最近在 Meta 的广告库中发现了 50 多个包含辱骂内容的图像和视频广告，列表显示一些广告链接到所谓的裸体或脱衣应用程序。 Meta 的广告库是一种透明工具，用于对公司平台上显示的广告进行分类，显示在 Facebook、Instagram、Messenger 和/或 Threads 上运行的广告。这是近几周来第二次在 Meta 平台上发现与儿童性虐待材料相关的付费广告。独立监管组织 TTP 的主管凯蒂·保罗 (Katie Paul) 告诉《连线》杂志：“这些广告并没有试图掩盖图像或隐藏他们所宣传的内容。” “需要指出的是，这不是第三方在 Facebook 或 Instagram 上发布的内容，这些广告是经过 Meta 审查、批准并允许运行的，在公司收取广告费用时从未遇到干扰。”研究人员发现的这些广告均于去年 11 月至 8 月初发布，这些广告因违反了其有关儿童性虐待和性剥削材料以及成人性诱惑和裸体的政策，现已被 Meta 删除。根据 Meta 广告透明度库中的数据，这些广告通常会持续几天的时间，其中一些只针对男性。 TTP 研究人员表示，一则视频广告使用了一个坐在地板上的孩子的缩略图，上面显示了文字：“通过人工智能一代实现深层幻想[原文如此]。实际情况比所展示的要多得多，发挥你的想象力。”研究人员表示，当广告被点击时，它会播放成年人参与性行为的视频片段，然后将缩略图中孩子的脸添加到性行为中。研究人员称，另一则被多次发布的广告显示了一个年轻女孩躺着、双腿张开、做出性爱姿势的图片，上面写着：“我可以向你展示更多。”当研究人员发现这些广告时，大多数广告并没有主动向用户展示，但它们在 Meta 的广告库中持续存在了几个月，显然没有被发现。根据 Meta 的数据，尽管许多广告只“到达”了少数几个帐户，但至少其中一个到达了欧洲的 2,563 个帐户，其中包括法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。 Meta 的广告库数据库不包含有关美国或所有国家/地区广告效果的详细信息，因此总体覆盖面可能会更高。 Paul 表示，TTP 上周首次发现了这些广告，当时其研究人员在发布了一份关于一家中国广告合作伙伴发布这些广告的报告后，继续调查 Meta 上的裸体应用广告。保罗说，该组织立即向国家失踪和受虐儿童中心的网络举报热线报告了调查结果，该热线允许人们举报在线儿童性虐待材料。 NCMEC 发言人表示，不会对其收到的报告发表评论。在《连线》联系 Meta 后，该公司从其广告库中删除了这些广告。 “性剥削是可怕的，我们积极努力将其从我们的平台上剔除，”Meta 发言人表示。 “这些广告中的大多数覆盖范围很小，许多广告在《​​连线》分享之前就被禁用了。其中许多广告也早于我们最近推出的新人工智能技术，以更好地检测和阻止上传时的违规广告，而且我们正在不断改进这些系统。从去年删除超过 3600 万条儿童性剥削内容，到对裸体应用程序开发者采取法律行动，我们将继续不懈地打击这种滥用行为。”