一致性合理性：确保医疗保健领域人工智能的新标准

arXiv:2607.07766v1 公告类型：新 摘要：大语言模型 (LLM) 已成为心理健康支持的重要提供者，但它们仍然是注意力经济的产物，其运营和商业目标倾向于持续参与，而不是有效心理支持通常需要的摩擦。开发商的安全反应在很大程度上是被动的，解决了最明显和最严重的危害，而更微妙、更长期的风险模式（例如依赖性、边界侵蚀、扭曲信念的放大）受到的关注较少。我们认为，要使法学硕士在结构上安全，需要在三个层面上进行协调，反映社会如何确保人类临床实践的安全：1）基于临床实践的成文规范承诺的明确价值规范； 2）将这些值嵌入到模型中的训练； 3）监督，检测部署过程中的偏差和长期伤害，就像临床监督对人类实践所做的那样。以这种方式组织一致性会产生一种我们称之为一致性合理性的结构——一种结构化的证明，表明系统的价值观、培训制度和监督机制与安全和积极的结果是一致的。我们提出将一致性合理性作为健康人工智能的监管结构（通过类比已建立的生物学合理性结构）：一种原则性的方式来论证或反对相信系统与积极的健康结果相一致，即使有能力这样做也不会造成伤害，并最终为患者带来好处。