Stupid Over-Reliance on Palantir AI Helped Lead to US Bombing of Iranian School
4 hours ago
- 彭博社的一份报道证实，美国轰炸伊朗一所女子小学的原因是五角大楼官员过度依赖Palantir的Maven人工智能系统，他们错误地认为该系统会自动标记过时或不一致的情报。
- 美国中央司令部使用的Maven智能系统整合了150多个数据输入以辅助军事目标定位，但人员期望它能识别像学校这样的民用地点，尽管该系统并非为此目的而设计。
- 这次轰炸发生在特朗普-赫格塞斯对伊朗战争期间，造成超过165人死亡（其中大部分是儿童）；该学校以前是伊斯兰革命卫队的营地，但在谷歌地图上被明确标记为学校，卫星图像也显示有操场。
- 赫格塞斯解散了五角大楼大部分平民伤害缓解（CHM）团队，将人员削减90%至不到20人，且在袭击前没有CHM团队审查米纳卜地点，加剧了这一失误。
- Palantir否认承担责任，称其对底层数据或情报缺陷概不负责，但批评者认为，过度宣传该系统的能力导致了人类的麻痹大意。
- 这一事件凸显了对人工智能的过度自信如何导致跳过必不可少的人工监督，Maven的速度将目标准备时间从数小时缩短至数分钟，绕过了传统的杀伤链保障措施。