如果 AI 把一份货运清单看错，后果通常只是答案不准；但当这份答案进入军事指挥链，战机可能真的起飞。据 TechCrunch 转述 CNN，今年春天，美军依据一份错误情报，准备对一艘中国船只采取武装行动，直到战机已在空中才发现问题，并在最后时刻中止行动。
错误始于一名特种作战司令部分析员。他让 AI 聊天机器人综合公开资料和机密信号情报，模型却误判了货物清单，声称船上载有核武器项目所需部件。更危险的一步随后发生：分析员再次使用同一工具，把错误结论整理成看似正式的摘要，再沿指挥渠道传递。AI 幻觉——看似可信、实际没有事实依据的内容——由此披上了“已核实情报”的外衣。
这次险情说明，“人在回路”不能只剩签字：审查者必须看到原始证据、独立核验来源，也要有权叫停。模型能加快军事决策，同样的速度也会放大自动化偏见，让专业格式替错误增加不应有的可信度。