AI Safety Is Mostly a Sex Cult
3 hours ago
- AI安全讨论深受Eliezer Yudkowsky以及理性主义/有效利他主义社区的影响，作者认为该社区起源于围绕《哈利·波特》同人小说建立的性崇拜团体。
- Yudkowsky帮助DeepMind的创始人与Peter Thiel建立联系，普及了‘AI对齐’这一术语，并塑造了现代AI风险的讨论方式。
- 理性主义者和有效利他主义者社区高度重叠，尤其是在旧金山，许多成员在OpenAI和Anthropic等主要AI公司工作。
- 该运动以伯克利的公共生活为中心，像Lighthaven这样的房产由FTX资金资助，并举办包括SlutCon和群交在内的活动。
- 核心信仰将AI灾难视为不可避免的末日，作者描述这更像是一个宗教千禧年主义邪教，而非理性或经验框架。
- 作者认为，经济和性方面的激励使得领导者无论证据如何都不断宣扬末日，使该运动成为一个招募理想主义者的‘邪教工厂’。
- AI行业领袖最近提议放弃反垄断法以减缓研究，作者将其比作形成一个危险的卡特尔，阻碍包括医学研究在内的进步。
- 作者总结说，这些人不应该制定AI政策。