Meta 未能捕获数百条 AI 虐待儿童广告。一些真实孩子的图片

这些广告将人们引向 Google Play Store 和 Apple App Store 中近 50 个应用程序。研究人员表示，在这 350 个广告中，大约 300 个广告将人们引导至人工智能图像或视频生成器广告，其中大多数应用程序都与中国开发商相关。当《连线》开始报道这个故事时，一些应用程序已经被删除。在那些会产生成人露骨图像的应用程序中，苹果应用程序商店列出了八款相同的应用程序，其中多个应用程序与中国开发商的名字相关联。当这些应用程序打开时，它们会显示人工智能生成的明确内容，包括一系列性场景，其中包括一种名为“威胁刀”的场景，其中一把刀抵在女性的喉咙上。 《连线》杂志还发现了另外七个相同的应用程序，它们具有相同的设计、明确的内容，并列出了相同的开发者联系方式。苹果发言人 Adam Dema 表示：“App Store 旨在成为用户安全且值得信赖的地方，我们对故意试图逃避我们审核流程的开发者持零容忍态度。” “本报告中提到的开发者最初提交了符合应用程序审查指南的应用程序，后来却出现了裸体功能，这违反了我们的规则。”该公司表示，研究中包含的 20 个应用程序中，有 17 个已从其商店中删除，并且已对其余 3 个应用程序采取了行动，并删除了《连线》发现的 7 个应用程序。谷歌发言人丹·杰克逊表示，该公司不允许应用程序包含性内容或裸体内容。他们说：“我们不断采取主动措施来检测和删除含有有害内容的应用程序。”并补充说，它删除了报告中包含的所有应用程序。 “当向我们报告违规行为时，我们会进行调查并迅速采取行动，就这些应用程序而言，包括暂停数百个违规应用程序，并限制我们商店中的‘裸体’等相关搜索词。” “创建裸体应用程序的中国开发者比例逐年增长，”Meta 前员工 David Pham 表示，他负责调查其平台上未经同意的图像和滥用行为。范表示，在 Meta 期间，他观察到与研究人员发现的广告类似的广告，而那些上传内容的人会不断尝试绕过安全系统。 “每次平台或调查人员建立新的检测模型或新的执行某种类型的方法时，他们都会很快（一天甚至五天内）建立一种避免检测的新方法，”范说。上传广告的人会更改他们使用的域名，掩盖发布者的身份，并采取模糊图像或巧妙改变图像等措施以避免被发现。然而，去年离开 Meta 的 Pham 表示，公司有资金和资源来处理上传问题。 “我希望生活在一个不会将 CSAM 或 NCII 材料直接发送到我们手机上的世界，”他说。 Meta 目前针对包含 CSAM 和 NCII 的广告的保护措施似乎需要改进。据 Indicator Media 最近的一份报告显示，自今年 2 月以来，Meta 平台上已出现超过 11,000 个脱衣广告，其中许多广告据称是由“惯犯”发布的。 《连线》杂志的分析还发现，数百个包含露骨内容的广告与 TTP 研究人员发现的广告类似。 （Meta 表示，恶意广告商使用对抗性策略不断试图避开其检测系统，并且已将《连线》突出显示的广告中的语言“纳入”其审核系统中。）根据 TTPs 的研究，一则包含研究人员发现其真实身份的青少年的广告在到达欧洲的四个帐户时被报告给 Meta。然而，当它在几天后被删除时，已经有 330 多名用户看到了。 TTP 的 Paul 表示：“这不应该是小型非营利组织在进行研究时偶然发现的事情，然后进行调查和报告。” “我们谈论的是地球上技术和财务上资源最丰富的公司之一。”