AI 2040: Plan A
a day ago
- #Existential Risk
- #Policy Scenarios
- #AI Governance
- AI公司正竞相开发超越人类智慧的AI，这可能导致人类灭绝或无法逆转的权力集中。
- 计划A提议将超级智能的研发推迟至2040年，使AI研究公开化，并促进全球合作以避免危险的竞赛。
- 该计划强调研究透明度、国际协议，以及跨多家公司和国家的缓慢而安全的超级智能扩展。
- 当前的AI发展缺乏充分的控制计划，如果不加以遏制，可能导致人类灭绝或全球独裁。
- 该情景包括一个时间表：2029年美中达成协议，2035年暂停开发达到人类专家水平的AI，2040年实现超级智能。
- 政策建议强调需要仔细审视情景并尽早开展谈判，以减轻AI驱动权力集中带来的风险。
- AI正在颠覆白领工作，AI公司正工业化训练流程，并加速各行业的自动化进程。
- 政治和公众的担忧日益增长，导致立法行动如2027年的《AI透明度法案》，但需要更雄心勃勃的措施。