US Military had close call after using AI for hallucinated intelligence report
3 hours ago
- 基于虚假的AI生成情报报告，美国险些对中国船只发动军事行动，该报告错误声称这艘船在与伊朗的战争期间载有核武器组件。
- 该报告由一名特种作战分析师使用聊天机器人生成，错误地识别了船只的货物，计划中的登船行动仅在官员发现AI参与后才被叫停，但实际货物仍然未知。
- 这一事件凸显了依赖AI进行军事瞄准的重大风险，包括可能引发美中这类大国间武装冲突的错误计算。
- 军方和情报界正迅速将AI整合到情报分析、目标选择和行政任务等领域，受加速采用AI以保持竞争优势的战略驱动，但这种推进缺乏统一标准和验证流程。
- 此事件反映了对AI在情报工作中出现'幻觉'的更广泛担忧，尤其是年轻分析师可能过度信任AI生成的信息，引发了对灾难性错误和平民伤亡的恐惧。