《克劳德》中人类的“水印”文本掺假是对写作的歪曲

Anthropic 在 Claude 中的“水印”文本掺假是对写作的歪曲 2026 年 8 月 16 日星期日 当我本周写到 Anthropic 宣布全球所有 Claude 模型将很快开始为他们生成的所有内容（包括文本）添加“水印”，以遵守这项欧盟法规时，我们不得不猜测这将如何运作，因为 Anthropic 甚至没有提供其如何运作的模糊描述 - 尽管公告的标题是，荒谬且侮辱性的，“克劳德如何标记人工智能生成的内容”。我最初的猜测是，也许他们会在文本中隐藏不可见的非打印 Unicode 字符。只是吐口水而已。事实证明这不是他们要做的。他们要做的是应用一种隐写术，在推理时选择的单词（或其他令牌输出）将留下指纹，这些指纹可能稍后可以被概率性地检测到。我最初猜测“隐形字符”并不是因为我没有想到语义选词技术，而是因为我是个傻瓜，在他们的描述中相信了 Anthropic 所说的他们会做什么。他们最初的支持文档声称：当受支持的 Claude 模型生成文本时，它会直接将难以察觉的水印编织到文本本身中。你不会看到它，它也不会改变克劳德回应的含义、质量或可读性。他们说“难以察觉”和“不会改变含义、质量或可读性”。他们的话。并非几乎难以察觉。含义、质量或可读性不会发生轻微改变。这对我来说很有意义，因为这绝对是我想要的——不，是要求——从我个人使用的任何工具中得到的。对于一个工具来说，为了在文本中嵌入隐藏的线索来暗示其出处，而牺牲一点清晰度、连贯性、意义、质量等，这是不可接受的。这就是我愿意并且将会要求的。 Anthropic 的（原始）支持文件明确声称这就是他们的系统将实现的功能。因此，如果这是真的，除了隐藏文本中不可见的字符之外，我看不到还剩下什么。我的错误是相信 Anthropic 他们的系统不会掺假和破坏他们的模型生成的文本的语义。事实上，这正是他们计划做的。我应该检查一下我的大脑是否相信标题为“克劳德如何标记​​人工智能生成的内容”的文档中的一个单词，该文档根本没有解释克劳德如何标记​​（或将标记）人工智能生成的内容。它实际上是如何工作的 昨天，在一个与最初的“克劳德如何标记​​人工智能生成的内容”文章（完全没有解释任何关于它的工作原理的文章）完全不同的网站上，Anthropic 发布了“克劳德的文本水印如何工作”，它实际上用外行人可以理解的术语解释了它是如何工作的。下面我将回到 Anthropic 的新的高度委婉且略带误导性的描述。关于这个主题有很多研究，我也在下面链接了其中一些。但对该技术背后的总体思想的最好描述是 James Padolsey 的一篇互动文章“AI 文本水印如何工作”。这是一本非常令人信服的读物，互动元素出色地阐释了主要概念。 A+ 工作。如果你对此有任何兴趣，我敢说你必须阅读并尝试一下帕多尔西的作品。但这是我对外行人的高层次总结。如果你抛硬币 N 次并记下结果，你就可以在一定程度上确定这枚硬币是公平的还是有偏见的。就其流行的形式而言，法学硕士是不确定性的。问同一型号的同一问题，您经常会得到至少略有不同的答案。也许意思相同，但措辞不同。在生成下一个令牌的每个决策点，模型都会做出选择。通过这些语义水印技术，他们根据可以称为“绿色”和“红色”的单词列表对某些标记做出不同的选择。在每个决策点，他们从绿色列表中选择单词的可能性比从红色列表中选择单词的可能性要大一些。这并不意味着他们从不从红色名单中选择单词。只是如果掺假标记技术没有到位的话，他们这样做的可能性就更小了。 （同样的道理，一枚弯曲的 51-49 硬币平均在 100 次中仍有 49 次落在“错误”的一面朝上。）在每个“下一个代币”生成点，单词或短语会被动态地确定性地分类到绿色和红色列表中。因此，有时某个特定单词会出现在绿名单上，有时则会出现在红名单上。拥有秘密密钥的人可以确定单词在每个令牌生成点将出现在哪个列表中（这就是检测水印的方式）；没有密钥的人不能。这意味着永远不会有克劳德喜欢或回避的单词列表。抛硬币时，N 越高（抛硬币的次数越多），您就越有信心硬币是公平的还是有偏见的。也是如此