Top OpenAI Catastrophic Risk Official Steps Down Abruptly
a year ago
- #AI Safety
- #OpenAI
- #Leadership Changes
- OpenAI顶级安全主管华金·基尼奥内罗·坎德拉卸任防备部门负责人职务，转任专注于AI医疗应用的实习生岗位。
- OpenAI重组安全架构，将治理权整合至由桑德希尼·阿加瓦尔领导的安全咨询小组(SAG)。
- 为防范AI灾难性风险而成立的防备团队经历管理层变动，包括亚历山大·马德里的调岗及坎德拉的离职。
- OpenAI面临安全领导层离职潮，包括联合创始人约翰·舒尔曼、安全主管莉莉安·翁，以及超级对齐团队负责人伊利亚·苏茨克维与扬·雷克。
- AGI准备高级顾问迈尔斯·布伦戴奇辞职，质疑OpenAI对AGI的应对准备，并抗议限制公开讨论AI风险的政策。
- OpenAI安全与安保委员会(SSC)发生人事变动，董事会成员齐科·科尔特尔接任主席，山姆·奥特曼退出委员会。
- 外界担忧OpenAI弱化安全承诺，包括缩短AI模型安全测试周期及未发布GPT-4.1配套安全报告。
- 前员工与研究人员批评公司降低安全投入，且在安全领导机制与流程上缺乏透明度。
- 全球关注AI安全影响，呼吁重视AI发展带来的经济与战略风险。