克劳德将在人工智能文本和图像上应用隐形水印

Anthropic 承诺开始用机器可读数据标记克劳德生成的文本和图像，以遵守欧洲人工智能透明度规则。 “生成的文本将带有嵌入的水印，生成的文件将包括支持的数字签名来源元数据，”Anthropic 在新的 Claude 支持页面上说道。这些变化是人眼看不见的，但将使人们和在线平台更容易检测内容是否是由 Claude 模型生成的。这些更新是未来的承诺，而不是立即生效。 8 月 2 日生效的欧盟人工智能法案规定了新的人工智能标签和透明度义务，其中包括为该日期之前推出的现有人工智能产品提供四个月的合规宽限期。因此，Anthropic 表示，新的 Claude 模型将从发布的第一天起就标记人工智能生成的内容，但对其现有模型的支持仍在进行中。机器可读标记将在全球范围内应用于支持的 Claude 模型，包括 Claude Platform (API)、Claude、Claude Code、Claude Cowork 和 Claude Tag。使用两种不同的标记技术：对于 Claude 处理的图像，C2PA（Adobe、OpenAI 和 Google 已经采用的来源元数据标准）将应用于支持的文件，但标记 Claude 生成的文本的过程在细节上要轻松得多。根据 Anthropic 的说法，“难以察觉的水印”被直接编织到 Claude 模型生成的文本中，而不会改变聊天机器人响应的含义、质量或可读性。 Anthropic 没有命名这个水印系统，但表示当通过 AWS、Google Cloud 或 Microsoft Foundry 访问 Claude 模型时，也会应用这些文本水印。 “因为水印是文本的一部分，所以当它被复制并粘贴到其他地方时，它会与文本一起移动，并且可能会在一些编辑中保留下来，”Anthropic 在 Claude 支持页面上说。 “水印将应用于模型级别，这意味着无论文本来自哪种克劳德产品或表面，它都会存在。” Anthropic 还致力于使用户和其他第三方能够检测嵌入到 Claude 生成的内容中的水印和出处元数据，并表示将在即将发布的技术文档中分享有关该检测系统的详细信息。目前已有多种工具可用于检测 C2PA 元数据，包括 Google 的 Gemini 聊天机器人，但尚不清楚这些工具是否适用于 Claude 生成的文件。我已向 Anthropic 寻求澄清。这是人工智能生成的文本和图像在在线平台上被清晰标记的又一步，对于那些想要避免消费此类内容的人来说，这可能是一个胜利。同人小说读者已经在构建更基本的检测系统来标记克劳德工具何时在 AO3 同人作品中使用，但这些标记系统可以应用得更广泛——如果它们有效的话。众所周知，当携带 C2PA 数据的媒体上传到在线平台时，C2PA 数据很容易被删除，有时甚至是意外删除，而且目前还不清楚 Anthropic 的文本水印解决方案有多强大。就连该公司本身也担心这些标记系统远非万无一失，任何缺乏可检测标记的内容仍然可能来自生成人工智能模型。