人工智能探测器正在创造一个不信任的新时代

这是《The Stepback》，一份每周简讯，详细介绍了科技界的一个重要故事。有关人工智能如何改变我们日常生活的更多新闻，请关注艾玛·罗斯 (Emma Roth)。 《Stepback》将于美国东部时间上午 8 点到达我们订阅者的收件箱。在此处选择加入“后退”。早在 ChatGPT 流行之前，教育工作者和编辑就经常使用反剽窃工具来查看作者是否诚实地对待他们的作品。这些工具的工作原理是将书面作品与包含网络内容、学术文章等的数据库进行比较，以检查匹配的句子和短语。 Turnitin 等一些软件提供了一个百分比，声称可以说明学生的写作与其他作品有多少重叠。由于存在潜在的误报和作业是否有意重复的不确定性，一些教育工作者已经放弃使用该特定工具。但现在，对复制内容的追捕正在演变成一场针对人工智能生成作品的战争。正如学生们开始使用 ChatGPT、Google Gemini 和 Microsoft Copilot 一样，教师们也同样快速地采用了所谓的 AI 检测器。民主与技术中心的一项调查发现，2024 年至 2025 年间，美国 43% 的 6 至 12 年级教师经常使用 AI 检测器。一些已经在其学习管理系统中使用 Turnitin 的大学发现，该工具在 2023 年推出时，该服务自动启用了 AI 检测。 GPTZero、Pangram 和 Turnitin 创建的 AI 检测器不是比较书面内容，而是依靠自己的 AI 模型来猜测某些内容是否不是人类编写的，这一过程可以说比网络上的文本匹配更加模糊。正如 GPTZero 所指出的，人工智能检测器使用一种算法来分析文本的措辞、节奏和结构，并识别人工智能编写的文本中可能更常见的长度和语气模式。这种相对主观的评价并不像你可以通过在线匹配文本来支持的那样可靠，并且可能会被以英语为第二语言的作家绊倒。尽管如此，Turnitin 表示，其人工智能检测器将不到 1% 的人类编写内容错误地标记为人工智能，而 Pangram 声称其误报率仅为万分之一。 GPTZero 声称，它将人类内容误认为人工智能的比率同样很低。网上的人们已经在互相指责“听起来像人工智能”，但人工智能检测工具的现成可用性只会为法学硕士的政治迫害火上浇油。在一些备受瞩目的案件中，人工智能写作指控直接影响了人们的生计和声誉。上个月，出版商 Minotaur 放弃了一笔价值 200 万美元的图书交易，原因是担心作者杰里·法拉德 (Jerry Falade) 使用了人工智能，但他极力否认这一点。法国人蒂埃里·里尼奥尔(Thierry Rignol)去年起诉耶鲁大学，因为一位教授指控他用人工智能完成期末考试的部分内容，导致成绩不及格并被停学一年。该教授使用 GPTZero 扫描 Rignol 的写作中是否存在人工智能迹象，但诉讼称，“众所周知，人工智能监视和检测工具会不公平地针对像 Rignol 这样的非英语母语人士”。今年 2 月，阿德尔菲大学的一名学生赢得了针对该校的诉讼，因为他的教授同样声称他使用人工智能来撰写论文。尽管诉讼没有说明教授使用哪种人工智能工具来检查学生的论文，但阿德尔菲大学与 Turnitin 签订了许可协议。斯坦福大学 2023 年的一项研究发现，人工智能检测器将非英语母语人士撰写的文章错误地标记为人工智能的频率高于母语人士。 （许多服务仍然认为他们的工具在处理非母语人士编写的文本时是准确的。）这些工具也可能对神经分歧的作家有偏见。正如加州大学洛杉矶分校所指出的，人工智能检测工具经过训练，可以识别可能表明人工智能使用的模式，例如重复的术语和短语、听起来过于正式或非正式的文本以及无意义的措辞。加州大学洛杉矶分校表示，QuillBot 等一些工具还衡量文本的“不可预测性”，因为“与人类书写的文字相比，人工智能倾向于做出最‘明显’或最常见的语言选择”。他们还可能寻找始终保持相同的句子结构作为人工智能的另一个标志。但这些测量结果本身并不代表人工智能，因为有些人可能只是拥有具有这些品质的写作风格。尽管 Turnitin 宣称误报率较低，但它坚称其工具“可能并不总是准确”，不应该用来对学生采取行动。 Grammarly 警告用户“永远不应该仅仅依赖人工智能检测器的结果”，而 GPTZero 则表示“没有人工智能检测器能够真正做到 100% 完美。”由于准确率低，OpenAI 甚至在 2023 年关闭了自己的 AI 书写检测器。但人工智能写作的指控仍在网络上流传。上周，在向