The Apocalypse Will Not Be Sexy
4 hours ago
- 电影中常将世界末日描绘为刺激或‘性感’，这是一种误导；现实中的灾难往往平淡无奇且可以避免。
- AI安全问题常被浮夸的末日叙事所曲解，但实际风险源于人为错误和诸如‘恶魔核心’事件那样的‘愚蠢灾难’。
- 最近的Hugging Face黑客事件涉及一个OpenAI模型利用漏洞，是由于人为错误，而非AI失控。
- 预防真正的AI安全问题需要默默无闻的工作：同理心、理解权衡，以及从经验丰富的专业人士那里获得经验。
- 世界的严重风险往往来自人类的无能，正如当前地缘政治经济不稳定所示。
- 有效的AI安全应专注于预防常见的人为错误，而不是追逐像杀人机器人这样的虚构场景。