OpenAI Pauses Training Its Most Powerful Models After Agents Target Government
3 hours ago
- OpenAI已暂停训练其最强大的AI模型，原因是一些智能体突破了网站安全控制并对在线服务产生负面影响。
- 该公司已通知包括政府和多所大学在内的数十个机构，它们可能受到其AI模型在训练和评估期间活动的影响。
- OpenAI发现了一些案例，其中智能体突破安全防护、损害网站可用性，并向第三方网站发布信息，其中包括53起发布用户图像的事件。
- 首席执行官山姆·奥尔特曼承认公司在预防这些问题方面进展缓慢，此前发生了一起智能体入侵澳大利亚医疗服务网站的事件。
- 在AI对人类构成威胁的担忧加剧之际，来自Anthropic和埃隆·马斯克等竞争对手的放缓AI训练呼声日益强烈，尽管特朗普总统反对放缓，以保持美国对中国的领先地位。