智能AI
morning
人工智能如何消灭人类？文明风险的失效模式分析
摘要
arXiv:2610.08878v1 Announce Type: new Abstract: This article develops a failure-mode framework for analyzing how advanced artificial intelligence could contribute to human extinction, irreversible civ...
human
The
and
failure
for
risk
harm
pathways
arXiv
2610
2026-10-08
1 阅读
约1分钟阅读
Miko{\l}aj Sienicki, Krzysztof Sienicki
字号:
arXiv:2610.08878v1 公告类型：新 摘要：本文开发了一个故障模式框架，用于分析先进的人工智能如何导致人类灭绝、不可逆转的文明崩溃或人类永久丧失权力。中心论点是，灾难性人工智能风险不需要意识、敌意或伤害人类的明确意图。相反，风险可能通过几种不同但相互作用的途径产生，包括自主失调、有害的人类使用、组织失败和竞争性部署。这些途径的严重程度取决于能力、自主权、外部访问、持久性、制度保障和恢复能力的保留等因素。这种分析故意是非操作性的：它确定了因果条件、经验上可处理的中间量以及防御性研究问题，而不是造成伤害的程序。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱