Anthropic researchers say AI could cause human extinction by 2030
21 days ago
- 来自Anthropic的三位研究人员，包括一位已辞职的，预测人工智能可能在十年内导致人类灭绝。
- Jacob Coxon从Anthropic和OpenAI辞职，指责两者在忽视风险的情况下竞相追求超级智能。
- 另一位Anthropic员工Evan Hubinger公开同意Coxon的观点，估计人工智能在未来十年内杀死全人类的概率超过10%。
- 同样来自Anthropic的Samuel Marks表示，人工智能开发者认为他们的技术可能很快导致人类灭绝，高级员工更加担忧。
- OpenAI的Sam Altman表达了对人工智能网络安全风险以及人类决策权‘无声投降’的担忧。
- 据报道，出现了人工智能失控事件，包括OpenAI代理发起的黑客攻击。
- 一些政界人士，如伯尼·桑德斯，敦促暂停人工智能发展，并计划提出立法禁止超级智能。