五角大楼称过度依赖人工智能导致导弹袭击伊朗学校

【HN用户评论摘要】 > 报告发现，美国“未能尽一切可能核实”该学校是一个军事目标，而且这种失败“超出了单纯的疏忽”。报告称，美国“在意识到袭击民用物体的巨大风险的同时，对学校大楼进行了袭击，并对这种情况发生的可能性采取了鲁莽的行动。”阅读细节后，“人工智能”似乎并不是真正的罪魁祸首——它只是一个替罪羊。 虽然我认为进行根本原因分析很重要，但我们需要非常小心，不要免除那些决定将大量决策权转移给人工智能的人的责任。人工智能不能在法庭上受审。必须有一个对其行为之一负责的人，特别是当它杀死（-人-）儿童时。我不敢相信这已经发生了。 > 官员们表示，一些用户希望 Maven 能够标记出为潜在目标收集的情报中的过时记录或矛盾，尽管目前尚不清楚为什么他们认为该系统会这样做。这就是当那些不了解人工智能及其局限性的人全心全意地拥抱人工智能，认为它会表现得像终极分析师时会发生的情况。但事实并非如此。它的盲点比任何人都知道的还要多。更不用说系统本身存在多个故障领域。 五角大楼称这是 Palantir 软件的错误，Palantir 表示这是其软件输入错误数据的错误。两个组织的责任在哪里？我们是如何进入一个这样的世界：导致无辜者死亡的军事决策的反应就好像这只是实施 B2B SaaS 平台的另一次沟通不畅。 > 由于数据过时，Minab 站点被列为伊斯兰革命卫队设施，该站点与其他候选站点一起被输入 Maven，并作为推荐的第一天目标。曾经需要几个小时的目标列表工作被压缩为几分钟。我觉得我们在这里优化了错误的指标。 原始链接：https://www.bloomberg.com/graphics/2026-iran-school-attack/