谁来阻止赛博洪水淹没世界？

2025年底，韦氏词典把年度词汇授给一个老词的新义：slop。它本义是喂猪的泔水，如今更多被用于AI批量生成的低质内容。一个词被词典收编，说明它已经不是个别现象，而是已经成为了人们的日常。 事实上，低质内容已经引起了各大渠道的重视和清理。Spotify下架了超过7500万首AI生成的歌曲；X平台上线Grok生图后的九天里，用户生成了440万张图片，其中约180万次的请求是“把她的衣服换成比基尼”，由此引发的诉讼已有近10起，被告席上坐着模型公司、平台和第三方应用。 但用泔水形容这件事，其实低估了它。AI内容是昼夜不停涌出的，生产成本趋近于零，供给不再依靠人的创作，互联网面对的不是一缸泔水，是涨个不停的水位，甚至洪水。 在不久的未来，我们会否被赛博洪水淹没？仅仅低质我们可以选择不看，但随之而来对“真实”的侵害可能更值得反思。 今天「虎嗅」尝试拆解这个复杂的问题，看看各方到底有没有解法。 赛博洪水泛滥 过去一年，各平台流传着一批新的“致富经”：《用Agent一键采集并改写100篇爆文》《全数字人直播工厂，一个真人主播都不用》《文案配图全交给AI，快速铺开账号矩阵》。教程真不真无所谓，里面的账是真的：单条内容成本归零，批量生成一百条，赌中一条就是赚。对单个人无懈可击，凑到一起就是灾难。 短剧层面的官方信息更为震撼。今年三季度，国家广电总局网络视听节目管理司司长王小亮在国新办发布会上给出数据：前8个月全国上线微短剧43万部，是去年全年的13倍，其中AI剧超过九成。据报道，精品AI仿真人短剧的制作成本已能压到20万元以内，约为真人精品短剧的十分之一。连短剧这种要剧组、要演员、要工种配合的内容，一年之内九成AI化了。 泛滥的景象不难想象。AI魔改的名著里，林黛玉在倒拔垂杨柳；数字人主播在直播间循环同一套话术；AI生成的“手作视频”底下，最热门的评论是求链接，观众分不清真假，也不觉得有必要分。这些最先挨了治理的板子：网信办“清朗·整治AI应用乱象”专项行动，已处置违规AI产品1.4万余款，清理相关违法信息561万余条。 当真实性被侵犯 再往深处，是真实本身开始松动，这才是影响最深远的。 去年8月，一个零食品牌宣传产品“甄选优质花生”，配图里的花生却长在枝头。花生长在地下，这是农业常识。比虚假宣传更重的，是它演示的那种未来：说法不再需要真实世界的证据来支持，图可以生成，“经历”也可以。 比如你深夜查育儿攻略，以为在读一位妈妈的真实记录，其实是一段没经历过任何生活的代码在模仿这种语气。你跟一个“网友”倾诉，对面安慰你的，可能是某个账号矩阵里的一段程序。AI生成并不等于假，真人也造假，AI也能帮人把真话说得更好；新问题在于，经历、身份、关系、责任如今可以被打包伪造，而背后找不到一个负责的人。 法院已经给这件事定过性。全国首例AI代写“种草笔记”不正当竞争案里，两款提供“一键生成爆款种草笔记”的App被小红书告上法庭，法院认定构成不正当竞争。这是我国司法第一次确认：真实的内容生态和用户信任，是受法律保护的。 筑堤，让洪水归槽 问题又说回来，由AI制造的赛博洪水会退吗？各方的答案都是——不会。于是问题就变成了，如何治水？ 今年7月施行的《人工智能拟人化互动服务管理暂行办法》规定，AI内容必须打显式标识，元数据里还要埋入机器可读的隐式标识，把“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”写进了禁止条款。法律开始保护“人与人之间”这件事本身。 今年5月，国家反诈中心APP上线“AI内容鉴定”功能，图片、视频、文本、音频都能传上去检测，每人每天免费10次。 平台动手更早。微信、抖音、小红书等平台都升级了AI内容标识，要求创作者主动声明，平台检测到AI内容，也会自动打标；小红书今年8月还把标识义务从内容扩到账号，AI虚拟人必须亮明身份，日均打标超30万条。 对于AI托管的内容，小红书的态度比其他平台更坚决。小红书是第一个明确表达严打「AI托管账号」的平台。小红书曾公布，已全面拦截并精准识别了约302万个涉及脚本操作的自动化异常账号，针对近期“利用AI工具批量拼凑、自动化发布违规笔记”这一破坏内容生态的新趋势，平台进行了重点打击，精准锁定了约13万个“AI托管发布”账号。对于此类试图利用自动化工具机械操作、批量拼凑AI内容及模拟真人互动的违规账号，平台均已予以封号或禁言的严厉处罚，坚决将系统性打击常态化。 碳基人类最后的防线 如果低质和托管已经在治了，那么后果更严重的AI“造假”呢？ 低质是海量与审美的问题，主动标识和平台识别，让AI内容进到自己的河道，把泔水挡在视线外。 但造假是底线和信任问题：伪造的经历、冒充的身份、换的脸、编的聊天记录，淹进来一分，真实就少一分。 “真与假，这才是硅基AI与碳基人类应该划清的界限，也是我们应该守住的防线。”一位长期观察AI行业的学者表示，有些人会觉得，社交平台对AI造假会睁一只眼闭一只眼，毕竟流量就是流量。但实际上正好相反——平台比任何人都不希望真与假的界限被AI模糊掉。“尤其是类似小红书这样主打活人感的社区，真人之间的真实交流几乎是社区的基石，这类平台对虚假的态度更为严苛。” 「虎嗅」也看到， 多个平台都开始大力度打击AI虚假内容。 此前小红书官方表示，已将AI制作发布虚假内容纳入常态化治理，尤其是以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖。今年6-8月，平台清理处置AI制作发布的虚假笔记近12万条。 大禹治水数十年，办法不是把水堵死，是给水找出路。对付赛博洪水，似乎可以沿用中国古人的同一套道理：给AI留河道，给真实守堤坝。 洪水时代的要紧事，从来不是等水退去，而是分清什么可以引导，什么必须带上诺亚方舟。 特别策划 文章原文