并非寻求所有解释：以人为中心的 XAI 的信息寻求心理学

摘要

arXiv:2608.27464v1 Announce Type: new Abstract: This position paper argues that human-centered explainable AI (HCXAI) should incorporate insights from the psychology of information seeking. Drawing on...

and that information seeking explanations will bias for This HCXAI

2026-08-31 1 阅读约1分钟阅读 Andrea Beretta, Salvatore Rinzivillo

arXiv:2608.27464v1 公告类型：新摘要：这篇立场文件认为，以人为中心的可解释人工智能（HCXAI）应该结合信息搜索心理学的见解。借鉴沙洛特和桑斯坦的信息寻求动机框架，我们建议人们根据三种类型的预期效用来评估是否接受解释：工具性（它会帮助我表现得更好吗？）、享乐性（它会让我感觉更好吗？）和认知性（它会提高我的理解吗？）。每个效用都是通过有据可查的认知偏差形成的透镜来估计的，包括控制错觉、自动化偏差、不切实际的乐观主义、影响偏差、过度自信和确认偏差。这些偏见可能导致两种失败模式：过度的信息寻求会分散注意力而无法改进决策；信息寻求不足会导致关键风险和误解未经审查。对于代理人工智能系统来说，这一挑战尤其严峻，其中的解释不仅必须支持理解单个输出，还必须支持预测级联操作、评估风险并决定何时进行干预。通过将信息寻求心理学整合到 HCXAI 中，我们主张从提供解释转向让解释变得可寻求：设计系统来解释用户何时以及为何真正想知道。

订阅66必读