纽约查获十多个名人 Deepfake 网站

十年来的大部分时间里，滥用深度伪造“色情”网站已经发布了数千个未经同意的视频，描绘女性（包括知名名人、政客和公众人物）的性行为场景。现在，纽约官员查获了十多个有害网站，这可能是迄今为止最大规模的深度造假网站查封行动。周一，曼哈顿地区检察官办公室宣布查封 12 个域名，称这些域名被用于“非法”共享、发布和销售名人深度造假视频。该办公室表示，这些网站上有大约 1,200 人（其中绝大多数是女性）出现在未经同意的性图片和视频中。其中包括社交媒体影响者、演员、活动家、运动员、音乐家和政治家。地区检察官阿尔文·布拉格在一份声明中表示：“这些可怕的侵犯隐私行为会影响受害者的职业生涯和个人生活，并对他们的情感和心理健康造成巨大损失。”他敦促潜在受害者站出来联系他办公室的网络犯罪局。该办公室表示，正在对这些网站的负责人以及上传受害者破坏性视频的人进行调查。此次查获是根据纽约刑事诉讼法进行的，这可能是自 2017 年底该技术首次出现以来针对托管露骨深度造假视频的网站采取的最重大、最广泛的行动之一。随着人工智能技术的进步，一个由网站、应用程序和机器人组成的黑暗产业已经出现：它们旨在“脱掉”女性照片或制作包含她们的色情视频。图像和视频越来越真实，并且可以在几秒钟内生成。虽然深度造假技术被广泛用于针对不知名的女性和女孩（通常在私人社交媒体群组中分享），但名人已经谈到了内容中描绘的许多危害以及将其删除的挑战。虽然针对深度造假的法律迟迟没有出台，但美国《删除法案》越来越多地允许删除图像，其中部分法律允许执法官员删除和查封网站。曼哈顿地区检察官办公室尚未公开其查封的网站名称。然而，在布拉格宣布这一消息之前，《连线》杂志独立观察到，上周晚些时候，一些网站的主页被删除通知所取代——“该域名已被查封”，这些网站现在表示，在纽约州最高法院发出查封令后，它们已被接管。战略对话研究所 (ISD) 研究深度造假创作生态系统的研究员 Leonie Oehmig 表示：“这些打击行动是打击合成非自愿亲密图像 (NCII) 的重大胜利。” Oehmig 表示，州法律的执行表明有害内容可以得到解决，而且如果使用 VPN 尝试从其他位置访问被查封的网站，这些网站似乎无法访问。 “这表明，即使监管本身仍然分散在各个司法管辖区，有意义的、协调一致的执法也是可以实现的。”这些网站可能被浏览了数百万次。许多人使用的名字中包含“性名人”等短语或承诺“真正的深度假货”。他们托管了一些世界上最著名的名人的虚假视频，其中一个人说，“各种女演员的脸都被用来制作深度伪造品。”视频长度可能长达几分钟，并包含完全露骨的性场景，通常会将名人或公众人物的面孔替换为现有的色情视频。这些网站的存档版本显示，一些视频已被观看数万次，其中一个网站声称自 2018 年以来一直在线。