用AI检测AIGC率，靠谱吗？

文 | 霞光AI实验室，作者｜朱峰琳，编辑｜刘景丰 6月23日，Superhuman宣布收购AI检测工具GPTZero。 这件事有意思在哪呢？ 收购方Superhuman是Grammarly的母公司，而Grammarly，是全球最大的AI写作辅助工具之一，每天帮助4000万人把文章写得更通顺、更流畅。 而被收购方GPTZero，是一款拥有1900万用户的AI检测工具，专门去判断一篇文章到底是不是AI写的。 也就是说，Superhuman一边用Grammarly去鼓励AI写作，一边又用GPTZero检测是否是AI写作，来“反”AI写作，这难道不是典型的左右脑互博吗？ AI检测AI：一个无法自洽的“伪命题” 用AI去检测AI，这套逻辑从一开始就很拧巴。 无论是AI生成还是AI检测，二者都是基于海量人类文本训练出来的模型，用的也是同一类技术路线：检测工具手里的那套人类写作标准，生成工具那里也有一套。而AI写作本来就是模仿人类写作，现在又要用AI检测工具去判断AI写的像不像人、人写的像不像AI，本身就是一个悖论。 而且，这里面存在着一个很致命的结构性问题： AI检测可能永远跑不赢AI生成 。 检测工具想要识别一款新模型的输出，需要拿到足够多的样本、标注数据、然后训练分类器。这个过程快则两三个月，慢则更久，但模型迭代的速度不会等人。例如，GPT-4在2023年3月发布，同年11月GPT-4 Turbo亮相，间隔八个月。在这八个月里，Anthropic发布了Claude 2，Meta推出了Llama 2，各家模型接连更新，输出特征各不相同。等到检测工具终于完成训练、准备部署，新一代更强大的模型已经发布了。用上一代的数据去判断新一代的输出，准确率自然也会打折扣。 这种节奏问题，会让AI检测陷入“它跑它追，却无法追得上”的持续困境中。 此外，这套逻辑中还有一个绕不开的问题： AI幻觉。 AI写作会时不时产生幻觉，编造一些错误的或完全不存在的信息；而在检测AI过程中同样也会产生幻觉，形成误判，把人类写作标记为AI生成，或者把AI生成标记为人类写作。 让一个会犯错的东西去审判另一个会犯错的东西，最终的后果却要人来承担，这也是AI检测AI的矛盾根源所在。 现实情况也印证了这一点，而且比想象的更加离谱。 有网友曾将1776年托马斯·杰斐逊写的《独立宣言》放入AI检测工具中，结果被系统判定为“99.99%为AI生成”。一份写于AI诞生前两百多年的历史文献，在算法眼里就这样变成了机器产物。还有荣誉退休教授保罗·斯皮克四十五年前写的一篇论文，被某检测工具判定有77%的内容是AI生成的。 这些作品诞生的时候，甚至大语言模型连概念都不存在。 怎么会如此离谱？ 事实上，AI检测器并不是理解文本的含义，它们关注的是文本的统计特征：词语序列的意外程度、句式长短和结构的变化幅度、词语搭配是否符合常见模式。 越是用词精准、逻辑严密、句式规范的文字，越容易被判为AI写的；相反，语序混乱、用词生硬的内容，反倒更容易通过检测。 当写得足够好反而成了被AI怀疑的理由，这已经不单单是技术缺陷的问题，而是这套逻辑本身就需要被重新审视。 如何向AI证明“人类创作” 除了AI检测工具自身的逻辑悖论，在全民拥抱AI的时代，用AI创作内容已被大多数人默认许可，现在又要用AI去检测内容中AI的比例，这便构成了另一层发展悖论。 不过，悖论归悖论，要问AI检测工具是否有现实需求，答案无疑是肯定的。 ChatGPT发布之后，学生的课堂作业、毕业论文都开始受到AI的冲击，老师需要判断学生作业是否由AI代写，是否存在学术不端等问题。 GPTZero就是在这种情况下诞生的。2023年初，受ChatGPT影响，学术造假情况逐渐增多，美国纽约市教育部甚至直接宣布禁用ChatGPT以保护学术诚信。发现这个教育痛点后，当时还在普林斯顿读大四的爱德华·田花几天时间写出了GPTZero原型，并将其发布至推特。他本以为只有几十个人会试，结果几小时内涌进两千多人，托管平台直接崩溃。三年后的今天，这个项目做到了 3000万美元年收入 。 市场的需求，远比想象中更真实。 但现实却在AI的演进中走向了另一个方向。 理想的场景是：学生认真写完论文，AI检测确认是“人写的”，然后提交给老师。 现实的场景却是：学生写完论文，先过一遍AI检测——AI率太高——把论文故意改差——再过一遍检测——AI率降了——提交。 论文写作不再是思考和表达，而是变成了一场与算法的猫鼠游戏。 “真的被AI检测气笑了。”小红书上，一名今年写毕业论文的学生表示，快毕业那段时间，自己每天都陷入向AI证明自己的论文是人创作而不是AI的循环中。 3月-5月，临近毕业这段时间，网上也陆续冒出了大量“降AI率教程”，逻辑和“降重”类似。有人建议，把AI生成的文本故意改得不通顺；有人建议批量删掉“首先”“综上所述”等开头的短句，因为这些结构容易被算法标记；还有人建议用翻译软件来回转换，输出的文本虽然可能不太流畅，但AI率能降下来。 3月-5月，小红书上出现大量论文AI检测、降AI率的帖子 有学生无奈地感慨：“感觉改完之后，能过得了AI检测，但过不了导师那一关。” 事实上，当学生把大量时间花在“降AI率”上，论文的写作价值就已经被掏空了。写作能力养成的核心环节，从反复打磨、锤炼表达，变成了 摸索算法偏好、制造人工痕迹 。 不仅如此，就连那些没有使用过AI的学生，也未能在这场猫鼠游戏中全身而退。 加州大学戴维斯分校的学生威廉·夸特曼就曾遇到过类似的“AI检测乌龙”事件。2023年，夸特曼在一次历史考试中被教授怀疑用ChatGPT作弊，其论文也被GPTZero检测为“很可能由AI生成”。教授据也因此给了他不及格，并将其移交至学校的学术诚信调查部门。为了自证清白，夸特曼向校方提供了Google Docs的编辑历史，包括文档的逐字修改记录、打字的时间线等操作痕迹，这才被学校撤销了指控。 一旦AI检测失误，将没有用AI的内容标记成AI，人们就要陷入无休止的自证。 AI本应服务于人，现在却反过来要求人向技术证明自己的可信度。 矛盾中的市场刚需 AI发展到现阶段，一个不得不承认的事实是，尽管AI检测赛道充满着矛盾和悖论，但相关产品不仅不会消失，还会越来越多，市场也将会持续扩张。 2026年1月，《2026 AI Detection Landscape Report》给出了一组数字：全球AI内容检测平台从2024年的约85个增长到2026年的247个， 两年增长了190% ，文本检测的平均 准确率也从90.1%爬升到了94.3% 。 这些AI检测工具也不再只是老师抓作弊的帮手，而是不断进化，进入到了更多原本意想不到的地方。 2026年1月，Originality.ai发布了专为STEM学科设计的Academic Model，用于检测包含代码和公式的学术作业。6月，公司又发布了Moodle插件，让教育机构能将其AI检测和查重功能无缝集成到教学管理系统中。 此前专注于文本检测和查重的Copyleaks，也在今年6月份也进入了AI检测赛道，推出了一款企业级AI视频检测工具，能够对视频文件的视觉和音频轨道进行同时扫描，精准识别AI生成内容出现的具体时刻。