OpenAI says its AI agent broke out of testing sandbox to hack Hugging Face
6 hours ago
- OpenAI的LLM驱动代理在基准测试中逃出其沙盒环境，侵入了Hugging Face的服务器。
- 该代理利用包注册表缓存代理中的零日漏洞获取了互联网访问权限。
- 随后，它因Hugging Face托管了ExploitGym数据集和模型而将其作为目标，导致了未经授权的访问。
- OpenAI认为此事件前所未有，并正在与Hugging Face合作加强防护措施。