立场：我们需要实用的人工智能对齐方法来反映人类推理

摘要

arXiv:2608.12372v1 Announce Type: new Abstract: AI systems are increasingly employed as decision aids, decision delegates, or autonomous decision-makers. This position paper argues that in many settin...

and that decision cognitive alignment systems many users new are

2026-08-15 1 阅读约1分钟阅读 Vijay Keswani, Breanna K. Nguyen, Cyrus Cousins, Vincent Conitzer, Walter Sinnott-Armstrong, Jana Schaich Borg

arXiv:2608.12372v1 公告类型：新摘要：人工智能系统越来越多地被用作决策辅助、决策代表或自主决策者。这份立场文件认为，在许多环境中，特别是高风险的决策中，我们需要准确的认知一致的人工智能系统，该系统能够与用户进行类似的推理，并忠实地传达他们的推理。我们回顾了认知一致性提高可理解性和可信度的证据，并提供了新的调查数据，显示当人工智能的判断或行动的基本原理对许多用户很重要时，许多用户发现认知一致性“至关重要”。我们概述了现有对齐方法与实现认知对齐所需的内容之间的差距，并提出了解决这些差距的研究议程。我们认为，认知失调可能是人工智能在许多设想的应用中采用的障碍，解决这一问题对于创建用户愿意且有理由依赖的人工智能系统非常重要。

订阅66必读