The Rational Conclusion of Doomerism Is Violence
3 days ago
- #Extremism
- #AI Safety
- #Rationalism
- 20岁的丹尼尔·莫雷诺-加马，作为PauseAI的活跃成员，向萨姆·奥特曼的住宅投掷了莫洛托夫燃烧瓶，并威胁要烧毁OpenAI总部，理由是他认为存在人工智能引发的生存风险。
- 包括埃利泽·尤德科夫斯基在内的人工智能末日论社区，宣扬人工智能将导致人类灭绝的确定性，这引发了一种升级现象：成员们在承诺上相互竞争，有时甚至为极端主义行为辩护。
- 该事件凸显了构建风险论辩时的语言智慧与实践中无力构建人工智能系统之间的矛盾，批评该运动是一种‘祭司阶层’，错误地将智慧与权力混为一谈。
- 作者认为，末日论框架若被字面理解，自然会催生暴力结果，莫雷诺-加马的案例即是明证，并批评了领导者们表现出的战略性而非道德性的克制。
- 文章将此事件定位为作者‘新新政’世界观的背景，强调现实问题如战争和债务应优先于人工智能担忧，同时声明作者并不倡导人工智能安全议题。