Will AI kill us all
17 hours ago
- 2024年，人工智能研究人员中位数认为人工智能导致人类灭绝的风险为10%，高于2023年的5%。
- 超级预测者给出的估计值（2.4%认为2100年前发生灾难）低于人工智能专家（5%）。
- 2026年9月，公众关注度达到50%，在事件和员工警告后有所上升。
- 人类级别人工智能到来的预测时间从2061年（2016年）调整到2042年（2024年）。
- 2025年，人工智能在国际数学奥林匹克竞赛中获得金牌，早于专家预测。
- Claude和OpenAI已暂停工作并放松安全规则，快速发布更强模型。
- 数学突破（例如Navier-Stokes方程的宣称）显示出快速的能力增长，但并非安全意图。
- 1386名实验室员工敦促政府有意识地放缓前沿人工智能发展。
- 大多数研究人员最关心的是 misinformation，而非灭绝风险；仅3.4%的人提到生存风险。
- Anthropic和OpenAI在2026年FLI的整体安全评级中均获得C+或C等级。