Gen AI 工具现在被用来推动“Slop Jihad”

十多年前，伊斯兰国发布了一段令人不安的视频，视频中描绘了其成员将关在笼子里的人放入游泳池并将其淹死的画面。今天，该视频已被复制为海绵宝宝卡通片，描绘了笼子里穿着橙色连身裤的鱼，海绵宝宝将笼子放入水中，而章鱼哥则拍摄这一场景。这段在 TikTok 上分享的视频是战略对话研究所 (ISD) 的一份新报告所称的“Slop Jihad”趋势的一部分，在这一趋势中，伊斯兰国和基地组织等伊斯兰恐怖组织的年轻支持者似乎使用生成式人工智能工具来创建粉丝编辑、漫画和模因，旨在激化新一代在线支持。这份由《连线》杂志独家分享的报告总结道，这种转变“标志着圣战主义在线宣传美学的根本转变”。 “主要问题是材料的数量和多样性不断增加，”联合国支持的反恐组织“科技反恐”执行董事亚当·哈德利 (Adam Hadley) 表示，该组织还撰写了一份关于 Slop Jihad 趋势的报告。 “高度风格化的人工智能生成内容可以让年轻观众更容易接触到暴力伊斯兰极端主义材料，同时降低传统恐怖分子品牌的知名度。用户可能会通过粉丝编辑、卡通、模因和其他娱乐导向的形式无意中遇到对犯罪者的美化，之后参与可以推动算法推荐相关的、更公开的宣传。”伊斯兰恐怖组织早已证明了他们适应新媒体环境的能力，可以通过利用新兴技术来帮助招募人员并创建去中心化的宣传网络，从而在网上向广大受众传达信息。这在 2020 年代初的另类圣战运动中就可见一斑，该运动试图在伊斯兰恐怖主义内容中吸收另类右翼的美学。这些团体多年来也一直在利用生成式人工智能技术。 2024 年，伊斯兰国附属新闻节目《新闻收获》开始使用人工智能生成的主播来帮助快速、廉价地传播宣传视频。但如今，生成式人工智能生成的内容的外观和感觉明显不同。 “这是一个新现象，而且仍在增长，无论如何还没有达到顶峰，”ISD 全球伊斯兰主义和反恐研究主席穆斯塔法·阿亚德 (Moustafa Ayad) 表示。 “支持生态系统中总是会产生一些劣质内容，但它不是海绵宝宝，而是伊斯兰国。”生成式人工智能工具也被用来快速、廉价地将恐怖组织的官方内容转化为动画视频。举个例子，一个 TikTok 帐户将 ISIS 的每周 al-Naba 时事通讯变成了动画。 Slop Jihad 趋势遭到了一些不喜欢新审美的传统支持者的抵制。 “人们似乎对它有一些敌意，因为他们不相信 Slop Jihad 的制作者是真正的信徒，”阿亚德说，指的是对海绵宝宝视频的一些反应。 “但同样，一些分享传统官方宣传的账户正在分享较新的视频。因此，人们似乎对 Slop Jihad 内容又爱又恨。”多年来，TikTok 一直是伊斯兰恐怖组织在线消息传递活动的核心，利用该平台强大的算法建议来传播他们的信息。经济合作与发展组织2024年的一份报告发现，TikTok是用于传播恐怖主义和极端主义内容的十大平台之一。虽然阿亚德确实在 Instagram 和 Facebook 等其他平台上发现了数量有限的 Slop Jihad 视频，但绝大多数视频都是在 TikTok 上找到的。他总共从 71 个账户中发现了 150 个 Slop Jihad 视频，该平台的总观看次数超过 540 万次。阿亚德认为，此类内容在 TikTok 上的流行归因于该平台的 For You Page 算法“非常针对用户兴趣”。他还赞扬了该平台上高水平的通用人工智能技术以及“该平台上现有的根深蒂固的圣战支持生态系统”。