立场：AI 尚不适合用于战略冲突
事件
一篇立场论文对语言模型参与开放式战略兵棋推演提出警告。这类推演模拟对手、机构、冲突升级、计划脆弱性、军事条令与危机响应，属于高风险的社会仿真。语言模型之所以受青睐，是因为它能扮演智能体、生成情景分支、裁决模糊行动并总结教训，但同样的能力也带来危险：模型生成的语言既决定行动者试图做什么，也决定什么会成为模拟中的现实。
论文识别出五种失效模式：决策洗白、裁决不透明、角色崩塌、经由裁决的升级，以及战略想象力的失效。作者强调，常规基准测试无法为这类场景建立安全保证。兵棋推演可以把这些失效暴露出来，充当压力测试，但它本身并不构成可用于重大决策的安全论证。
因此论文主张，任何由语言模型驱动的兵棋推演，在未提供可审计安全论证之前，都不应影响规划、条令、政策或危机响应。当前开放式兵棋推演的正当用途，是压力测试那些会影响决策的语言模型智能体，而非直接用于现实战略判断。
来源
本条目由采集管线自动抓取并发布，完整内容见下方来源链接。
*采集源：arXiv cs.AI*