AI 幻觉险些触发美军对华强硬行动

今年春天，军机已经升空，美国官员才发现一个惊人的问题：推动这次对一艘中国船只武装行动的情报，竟是 AI 聊天机器人"幻觉"出来的。行动在最后一刻被叫停，勉强避免了一场可能与中国的冲突——CNN 周五报道。

这一事件凸显了军方官员和外部专家日益增长的一个担忧：决策者越依赖 AI，这些系统产生的错误就越可能在被质疑之前，沿着指挥链层层上传。

这份情报报告在与伊朗开战期间流传，声称该船只载有核武器计划所需的部件。

假情报源自特种作战司令部的一名分析师。他让一个 AI 聊天机器人将开源数据与机密信号情报进行综合分析，结果聊天机器人错误识别了该船的货物清单。随后这名分析师又用该工具把这些错误结论整理成一份看似正式的摘要，在指挥渠道中传播开来。

这次有惊无险的事件发生之际，美军正加紧整合 AI，以加快决策速度、保持对中国的优势。五角大楼称 AI 在缩短"杀伤链"时间方面带来显著优势，让指挥官能及时应对。但 AI 的速度优势，在人类监督不足的情况下，也可能让幻觉酿成大祸。

"军人必须理解 LLM 内在的不确定性，"GovAI 研究员、美国陆军老兵 Jake Steckler 在书面回复 TechCrunch 时表示，"但对于任何可能导致使用武力的决策——比如目标选定、情报分析或作战规划——这一点尤为关键。这些决策关乎生死。"

不过，斯特克勒表示，这起事件应当敲响警钟，促使人们为 AI 增设更多安全保障机制，而非成为回避使用它的借口。他说道：“在合适的场景下，并配备适当的安全防护措施，这些工具确实能发挥效用。但如果将推广速度置于其他一切考量之上，很可能会引发事故，只会削弱军人对这些系统的信任，而这最终只会拖慢其普及进程。”