临床医生的否决权：应对自主人工智能处方中的信任、责任和不确定性

arXiv:2606.25108v1 公告类型：新 摘要：自主人工智能系统正在从药物处方的咨询角色转变为自主角色。 Recent United States bill H.R. 238 and Utah's prescription-renewal pilot both authorize AI to prescribe medications in an agentic capacity.虽然一些监管指南建议采用汇总模型性能指标来进行清除，但它们并不要求 i) 针对行动门控阈值校准每次预测的置信度，ii) 因模型无知（认知）与真正的临床模糊性（随意）而产生的不确定性的差异化沟通，以及 iii) 决策时的推理透明度，以允许责任分配。在这里，我们提出了监管和技术论证（通过对 136 名美国处方临床医生的调查进行测试），将这些定位为安全自主处方的最低架构要求。我们的结果表明，处方临床医生i）不会允许在没有经过校准的基于置信度的升级机制的情况下自主处方，ii）当不确定性是随意的时首选竞争选项摘要，但当不确定性是认知的时转向弃权，以及iii）只有当推论透明度能够在公认的不确定性下实现实质性判断时才愿意接受额外的责任。这些发现表明，我们推荐的架构特征将鼓励临床医生更高的采用率，这主要是通过瓦解传统意义上的“自主性”来实现的。 A system meeting these requirements would function less as an autonomous agent and more as a heavily supervised decision-support tool.随着立法和国家试点的进行，我们以临床医生观点为支持的技术论点为监管提供了机会，以限制人工智能在处方方面伦理上授予的自主程度，同时将责任与控制系统设计和部署的机构参与者保持一致。