人工智能代理的战略决策支持

arXiv:2606.12587v1 公告类型：新 摘要：传统上，决策支持研究人类如何使用机器学习模型来做出更好的决策。在现代代理系统中，这种角色划分越来越颠倒：人工智能代理代表用户行事，而人类和工具则成为围绕他们的支持机制。这种角色逆转将可靠性问题带到了最前沿，因为代理错误可能是后果性的，并且代理行为必须与人类目标和约束保持一致。与决策支持的经典观点不同，我们重新审视了它的两个基本原则，即在人工智能代理为核心参与者的环境中寻求支持的成本与价值权衡以及不确定性量化的作用。我们提出了一个通过优化问题为人工智能代理提供战略决策支持的框架，该优化问题最大限度地减少了支持使用，并控制了反事实的错过支持错误：代理单独对支持将实质性改善其输出的实例采取行动的概率。在人口层面，我们表明最优政策是支持值的阈值规则。在此结构的基础上，我们开发了一种在线算法，可以自适应地设定这样的分数阈值，并使用随机探索来控制缺失支持错误，而无需分布假设。我们进一步引入了一种动态校准方法，可以减少不必要的在线支持呼叫。我们在不同的场景中实例化了这个框架，包括信息收集、人类与人工智能的协作和工具的使用，展示了如何通过相同的战略决策支持镜头对每个场景进行建模。这些设置的实验表明，我们的方法可靠地控制了目标误差，同时大大减少了实践中支持的使用。