美国军方使用人工智能生成幻觉情报报告后险些丧命

今年春天，在与伊朗的战争期间，这份情报报告在美国军方流传，立即敲响了警钟：一艘中国船只在中东运输核武器计划的部件。据四位知情人士透露，美国军方立即采取行动，计划拦截这艘船只。据两名消息人士称，美军武装人员正准备登船。其中一位消息人士和另一位熟悉事件的消息人士称，当时有军用飞机在空中飞行。就在计划行动之前，官员们对特种作战指挥分析师整理的报告进行了更深入的挖掘，发现该报告是在人工智能（AI）的帮助下生成的，而且分析师使用的聊天机器人错误地识别了该船携带的材料。美国有线电视新闻网 (CNN) 无法得知被误认的货物是什么。据一位消息人士称，这份报告“完全是错误的”。但消息人士称，这也“几乎引发了一场战争”。美国针对中国船只的任何行动都有可能升级为两国之间的武装冲突。在美国军方和情报界，官员们正在推动将人工智能融入到他们工作的几乎每个方面，从分析美国收集的大量原始情报和选择打击目标，到管理预算、物流和供应链等更普通的应用。但这一事件凸显了在战争中使用这种强大的、新的且相对知之甚少的技术进行瞄准的巨大风险。分析人士长期以来一直担心，如果民族国家依赖不良或损坏的数据，人工智能可能会导致灾难性的误判——这种误判可能导致美国根据不准确的信息向中国船只开火。在这个特殊的例子中，分析师向聊天机器人询问了有关该船清单的一些情报报告，这些情报报告源自总部位于夏威夷的美国太平洋特种作战司令部。目前尚不清楚该聊天机器人是商用机器人还是美国政府产品。一位熟悉军事和情报分析师使用的人工智能系统的前美国高级官员说：“内部工具大多只是商业工具的复制品。”该机器人将开源情报与政府掌握的秘密信号情报融合在一起，并就该船所携带的材料得出了致命的结论。然后，分析师再次使用人工智能将调查结果打包成标准情报报告（军方官员信任的那种）并进行传播。美国太平洋特种作战司令部和五角大楼没有回应置评请求。人工智能快速采用的理由是，它可以帮助军队更快地做出战场决策，例如攻击哪些目标或将哪些军事资产移动到哪里。官员们表示，美国在人工智能整合方面不能落后，以防有一天它必须与中国或其他可能领先美国一步的对手作战。今年一月，国防部长皮特·赫格斯（Pete Hegseth）发布了该机构的“人工智能加速战略”，以加快军队对人工智能的使用。赫格斯在宣布该战略的演讲中表示：“我们将开展实验，消除官僚障碍，集中投资，并展示确保我们在军事人工智能领域处于领先地位所需的执行方法。”该战略还推动其在军队中的广泛使用，命令国防部通过多个项目提供人工智能，目的是“通过将美国世界领先的人工智能模型直接交到我们所有级别的 300 万文职和军事人员手中，实现整个国防部的人工智能实验和转型民主化”，一份宣布该战略的备忘录称。但多位熟悉情况的美国官员表示，这项工作是分散的，政府不同部门根据不同的命令和安全标准使用不同的工具。对于美国如何验证这些工具生成的信息，没有一套标准。军事和情报界不同部门部署的不同人工智能系统意味着其相对可靠性和功能差异很大。数周以来，在硅谷工程师和科技首席执行官发出一系列可怕警告后，华盛顿政策制定者一直在激烈讨论人工智能问题，称人工智能可能会摆脱人类的束缚，并可能带来毁灭文明的后果。但中国船只的事件凸显了一个不同的、更直接的风险：人类根据人工智能或其他自动化系统生成的不准确或误导性信息做出灾难性的决定。消息人士称，军方正在迅速转向人工智能技术