人工智能内容与人类在线输出相匹配，检测行业崛起并跟上步伐

NextFin News — 2020 年初，开放网络上发表的文章几乎没有一篇主要是由机器撰写的。根据数字营销公司 Graphite 的研究，到 2025 年最后一个季度，这一份额已攀升至约 50.9%。它短暂地超过了人类创作的作品数量，然后稳定在接近平价的水平上。该公司检查了从 Common Crawl 档案中提取的 54,000 多个英文 URL。每个都由三个独立的探测器进行分类。当人类作者比例低于 50% 时，内容主要被视为由人工智能生成。最大幅度的上升始于 2022 年 11 月 ChatGPT 公开发布后。一年之内，AI 份额已达到 30 多岁。两年之内，这一数字接近一半。这种转变的速度创造了次要的商业活动。随着生成系统降低了生成文本、图像、音频和视频的成本，对能够标记合成材料的工具的需求不断增长。教育是一个早期且相对稳定的市场。 GPTZero 和 Turnitin 等平台向学生和机构出售检测服务。他们将每份文件的检查与机构许可证结合起来。经过几年的运营，GPTZero 的年度经常性收入已达数千万美元。类似的服务也出现在中国的学术平台上。企业需求更大、更多样化。公司购买 API 访问、软件即服务订阅或定制系统。这些用于筛选客户通信、审核平台、验证财务交互或降低欺诈风险。中国公司开发了用于幻觉检查、恶意提示检测和大容量内容审查的专用引擎。有些报告称收入增长迅速，客户来自政府、技术和金融领域。市场研究公司 Dataintelo 估计，到 2025 年，全球合成媒体检测领域的价值约为 38 亿美元。该公司预计，到 2034 年，该市场可能达到 226 亿美元，这意味着复合年增长率接近 22%。硬件和平台公司也纷纷进入该领域。 2026 年，NVIDIA 推出了合成视频检测器，作为其 NIM 基础设施中的微服务提供。该系统逐帧分析视频，以获取与生成管道相关的统计轨迹。它旨在部署在媒体、审核和完整性监控工作流程中。其他大型技术提供商已开始在生成时嵌入隐形水印或出处信号。这种方法将检测从事后分析转向来源标记。然而，该业务存在结构性紧张。检测工具的工作原理是识别当前生成模型留下的统计或法医残留模式。随着这些模型的改进和新架构的出现，剩余模式会发生变化。因此，准确性是概率性的，而不是绝对的。供应商通常报告置信度分数而不是明确的判断。生成方变得越强大、越多样化，检测方就越必须努力跟上。与此同时，只有当合成含量仍然丰富且难以通过普通手段区分时，检测的经济动机才存在。监管机构已开始从源头上解决问题。中国关于标记人工智能生成和合成内容的规则于 2025 年 9 月生效，要求对适用材料进行明确的标识符。欧盟的人工智能法案包含相关的透明度义务。几个主要模型提供商已开始嵌入机器可读的水印，这些水印可以承受裁剪或压缩等常见转换。如果此类来源标准变得广泛且可靠，对独立第三方检测器的需求可能会减少。在那之前，检测仍然是对信息环境的实际反应，在信息环境中，机器生产的材料数量已经与人类产出相当。因此，商业前景好坏参半。检测已成为教育、企业和基础设施客户的真正市场。然而，其长期规模取决于发电技术的发展速度以及原产地标签系统的采用效率。目前，生成能力的每一次进步都会扩大合成内容的供应和对试图识别合成内容的工具的需求——这是一场以概率分数而不是永久解决方案来衡量的军备竞赛。