AI hallucination nearly triggers US Military operation
3 hours ago
- 针对中国船只的美军行动在最后一刻被叫停，因为一个AI聊天机器人生成了驱动该行动的情报幻觉，勉强避免了一场与中国的潜在冲突。
- 虚假情报来源于一名特种作战司令部的分析师，他使用AI聊天机器人生成了对公开源数据与机密信号情报的综合分析，导致货运清单被错误识别。
- 此次事件凸显了军方官员和专家日益增长的担忧，即AI错误能在决策者越来越依赖这些系统的情况下，沿着指挥链上行而不被质疑。
- 五角大楼正竞相引入AI以加快决策速度并保持对中国的优势，但使AI具备吸引力的速度也可能导致在人类监督不足的情况下产生幻觉。
- 专家杰克·斯特克勒警告说，优先考虑采用速度而忽略保障措施可能导致削弱对AI系统信任的事件，这可能会长期减缓采用进程。