标记错误症状：评估医学文本中的法学硕士水印

arXiv:2607.20462v1 公告类型：新 摘要：大型语言模型 (LLM) 越来越多地集成到临床工作流程中，强调需要对带有水印的模型生成的输出进行可靠的可追溯性。然而，大多数水印都是在通用基准上进行评估的，而医学等领域的小标记级扰动可能会导致重大的语义变化，而这些领域尚未得到充分探索。在这项工作中，我们首次对 LLM 水印如何影响医疗绩效进行了严格的研究，对 11 个 LLM 和 7 个 VLM 的 5 个水印方案进行了基准测试，涉及单模态和多模态临床推理的各种任务。重要的是，我们通过引入经过人类专家验证的管道来系统地审核医学推理质量、术语精度和诱导幻觉来补充现有的评估。我们的结果表明，水印可能会导致多种故障模式的严重退化，包括词汇损坏、幻觉术语以及放大的错误归因或图像发现的遗漏。值得注意的是，我们发现，缺乏特定领域的分析，再加上错过临床文本固有故障的聚合指标，可以系统地掩盖实际水印引起的退化。我们的研究结果将特定领域的评估作为在医学中安全部署水印模型的先决条件，否则当前的基准可能会掩盖临床上的严重失败。