7 hours ago
- 亚历克斯在道德承诺被利润和压力压倒后离开了谷歌DeepMind，尤其是涉及国土安全部和五角大楼的合同。
- 谷歌的AI道德承诺被削弱，最终合同中未包含针对杀人机器人或大规模监控的约束性限制。
- 动员斯图尔特·罗素、约书亚·本吉奥和杰夫·迪恩等有影响力人物的努力基本失败，尽管最初承诺采取行动。
- Anthropic坚守反对五角大楼的道德红线，与谷歌的屈服形成鲜明对比。
- 一份包含监督机制的25页治理框架被提出，但被高层领导忽视。
- 这篇文章强调了在政府压力下，依赖受道德驱动的个人和机构坚守底线的更广泛失败。
- 诸如杰夫·迪恩和德米斯·哈萨比斯等誓言签署者尽管明显违反承诺，仍留在谷歌。
- 军事AI部署中缺乏监控，给流氓AI系统带来了严重的生存风险。