AI幻觉险些触发美军行动

英文原标题：AI hallucination nearly triggers US military operation

本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗

• 今年春季，美军一次针对中国船只的武装行动在飞机已升空后紧急叫停，原因是驱动行动的情报由AI聊天机器人虚构，CNN报道称此举险些引发与中国的冲突。
• 该虚假情报出现在与伊朗战争期间，声称涉事船只载有核武器项目部件。情报源头是一名特种作战司令部分析师，他先用AI聊天机器人整合开源数据与机密信号情报，机器人错误识别了货物清单；分析师再次使用该工具将错误发现格式化成官方样式的摘要，并在指挥系统内传阅。
• 事件凸显军方和外部专家的担忧：随着决策者更依赖AI，系统产生的错误可能在受到质疑前就沿指挥链上传。
• 美军正加速整合AI以加快决策、保持对华优势，五角大楼称AI能显著加速杀伤链，但AI的速度优势也可能让缺乏人工监督的幻觉得以传播。
• GovAI研究学者、美国陆军退伍军官Jake Steckler表示，军人需理解大语言模型固有的不确定性，对可能导致使用武力的决策尤为关键；他认为此事应促使增加AI保障措施而非回避AI，但若将采用速度置于一切之上，可能削弱军人信任并最终拖慢采用。

关键数据

• 事件发生在今年春季，正值美国与伊朗战争期间
• 涉事情报声称船只载有核武器项目部件
• 行动在飞机已升空后最后一刻被叫停

为什么值得看：这起险些引发中美冲突的AI幻觉事件，暴露了军事决策中过度依赖AI且人工监督不足的风险，也引发了对AI采用速度与安全保障如何平衡的讨论。