立场：人工智能尚未做好应对战略冲突的准备

摘要

arXiv:2609.16189v1 Announce Type: new Abstract: Open-ended strategic wargames are high-stakes LM-based social simulations: they model adversaries, institutions, escalation, plan brittleness, doctrine,...

and ended are they safety strategic wargames model escalation doctrine

2026-09-17 1 阅读约1分钟阅读 Mark Riedl, Glenn Matlin

arXiv:2609.16189v1 公告类型：新摘要：开放式战略兵棋是基于 LM 的高风险社会模拟：它们模拟对手、机构、升级、计划脆弱性、条令和危机响应。语言模型 (LM) 很有吸引力，因为它们可以扮演代理、生成场景分支、裁决不明确的行为并总结经验教训，但同样的可供性使开放式角色变得危险：模型语言决定了参与者的尝试以及模拟现实的内容。本立场文件认为，在没有可审计的安全案例的情况下，任何支持LM的兵棋推演都不应为规划、条令、政策或危机应对提供信息，并且当今开放式兵棋的正确使用是对影响决策的LM代理进行压力测试。我们确定了五种失败模式：决策洗钱、裁决不透明、角色崩溃、裁决升级和战略想象力失败。普通基准无法确定这些设置的安全性。兵棋推演可以将失败暴露为压力测试；它们本身并不是可供后续使用的安全案例。

订阅66必读