"We're Definitely Going to Build a Bunker Before We Release AGI"
a year ago
- #Leadership Crisis
- #OpenAI
- #AGI
- OpenAI首席科学家Ilya Sutskever认为通用人工智能（AGI）即将到来，将半数精力投入AI安全研究，甚至提议在AGI发布前为科学家建造安全掩体
- OpenAI最初的非营利理想在资本扩张中逐渐消解，最终形成'利润上限'结构，在Sam Altman领导下转向激进商业化
- 2023年11月，Sutskever与CTO Mira Murati对Altman的领导方式提出质疑导致其短暂下台，但在员工抗议后迅速复职
- 董事会解雇Altman的决策基于其缺乏透明度、绕过安全协议及延缓研究进展等问题
- OpenAI内部动荡凸显AI发展中的治理难题，权力斗争正塑造技术未来走向
- 危机后的OpenAI更加封闭商业化，融资400亿美元估值达3000亿，但生成式AI的经济效益开始受到质疑
- AGI概念正被用作OpenAI追逐财富与权力的修辞工具，其社会代价包括劳动者剥削和虚假信息等问题
- Sutskever和Murati与Altman冲突后离职创业，加入OpenAI离职高管名单，投身未来AI竞争