没有人能免受名人人工智能深度假货的威胁

事后看来，Instagram 上的帖子应该引发更多危险信号。这张照片据称是女演员米娅·高斯 (Mia Goth) 与演员兼电影制片人希亚·拉博夫 (Shia LaBeouf) 申请离婚几天后，她穿着一件印有尖锐信息的 T 恤摆出姿势：“我的前任是我最大的粉丝”。为了真正说明这一点，碧昂斯的歌曲“单身女士（戴上戒指）”被添加到帖子中。对于《珍珠》明星来说，这不符合她的性格，因为她没有太多的社交媒体存在（如果有的话）。但发布该消息的 Instagram 帐户 @miagoth_ 拥有超过 100 万粉丝，并标有蓝色的“已验证”复选标记。几天之内，这张图片就获得了近 50 万个赞，其中包括来自娱乐行业的同行，尽管该页面被标记为粉丝帐户。据 The Verge 报道，这张图片是人工智能生成的，由 Goth 代表的一个账户发布，他们之前曾向 Instagram 投诉过发布“假冒的人工智能图片”的 Goth。 Meta 允许用户购买蓝色的“已验证”复选标记，即使该帐户不是由知名人物运行或不是官方页面。 Goth 的代表 Christine Tripicchio 在一封电子邮件中告诉 The Verge，“这个粉丝账户符合 Instagram 获得‘蓝色支票’的标准，这一事实从根本上来说令人不安。” “除此之外，令人难以理解的是，Instagram 显然将传播伪造和操纵的图像置于公众人物肖像的保护和完整性之上。”由于她离婚的消息，该帖子在名人八卦媒体上流传开来，而这些报道又通过谷歌搜索传播了该帖子。对这位女演员和这件衬衫的搜索引发了人工智能生成的概述，称戈特“在他们最近提出离婚后，对她的前任希亚·拉博夫进行了明确的攻击”，并引用了上述博客。谷歌搜索结果中标有“米娅·戈特 (Mia Goth) 穿着时髦的‘我的前男友是我最大的粉丝’ T 恤，在 Instagram 上引人注目”的部分占据了显着位置，同时还提供了讨论该图片的社交媒体帖子的链接。 Instagram 最终因冒充公众人物而删除了该账户。自从几年前消费者生成人工智能工具问世以来，一些更令人难忘且有争议的用例涉及名人。历史上，这些人类受试者对数字克隆和用作玩具的反应不佳：一首由人工智能生成的 Drake 声音相似的歌曲在版权罢工后从 YouTube 上删除了。 OpenAI 在未经她同意的情况下为 ChatGPT 发布了听起来像她的声音后，斯嘉丽约翰逊聘请了一个法律团队。据说爱莉安娜·格兰德去年屏蔽了一个发布人工智能生成内容的账户。泰勒·斯威夫特 (Taylor Swift) 公开支持卡玛拉·哈里斯 (Kamala Harris) 竞选 2024 年总统，并表示在唐纳德·特朗普 (Donald Trump) 发布虚假图片暗示她支持他后，她很感动地澄清了自己的立场。曾经有一段时间，每个人，甚至是富人和名人，都在努力应对新技术的规范。现在，在线人工智能内容的低谷只会越来越大——目前尚不清楚是否有人正在尝试或能够阻止它。描绘女性公众人物的人工智能内容通常带有明显的色情内容。一份专门发布由人工智能生成的约翰逊照片的个人资料（通常显着地显示赤脚）包括联系信息，以便公司可以在该帐户上做广告，以及销售订阅的 Patreon 和 Telegram 频道的链接。平台外的内容使用约翰逊的名字和（AI）图像来宣传成人内容。另一个帐户发布了 AI 生成的真实演员和音乐家的图像，例如米莉·鲍比·布朗 (Millie Bobby Brown)、赞达亚 (Zendaya) 和格兰德 (Grande)，他们总是半脱衣服或摆出性感的姿势。有些账户有自己的定位，比如“怪奇物语演员互相结婚”。在 The Verge 向 Meta 询问八个发布名人 Deepfake 内容的账户后，发言人 Alex Dziedzan 表示该公司已经删除了其中一些账户。其中两间——哥特一间和约翰逊一间——似乎已被拆除。 Dziedzan 在一封电子邮件中表示：“我们不允许账户使用某人的肖像来冒充该人，无论内容是真实的还是人工智能生成的。”泰勒·斯威夫特（Taylor Swift）端着一杯饮料，一边跟着德雷克（Drake）的《燃烧的桥梁》（Burning Bridges）说唱，一边骂骂咧咧。 “我喝了 [Quaalude]/它让我的身体发麻，”她唱道，穿着 2009 年 VMA 重大时刻的裙子。显然，该视频是人工智能的。它在 Instagram 上的浏览​​量为 180 万次。 “我认为她的公关团队不会喜欢她说‘N’字，”有人评论道。 Instagram 上充斥着这样的视频，通常莫名其妙地遵循非常特定的格式。 AI Shrek 与 AI Swift 做同样事情的视频有 310 万次观看。这是史蒂夫·乔布斯，手里拿着一瓶香槟，随着 Drake 的另一首歌大摇大摆地走来走去（371,000 次观看）。还有一个相同的莱昂内尔·梅西版本（210 万次观看）