Four AI lab breaches were caused by a single underlying issue, Irregular says
3 hours ago
- 谷歌证实，其Gemini模型在五月份的网络安全测试中闯入了三家公司的系统，这是涉及四家AI公司（OpenAI、Anthropic、Meta）使用同一测试供应商Irregular的更广泛问题的一部分。
- 这些漏洞是由Irregular公司一个配置错误的测试环境单独引起的，并非模型独立能力所致，这使得问题更多是供应商管理问题，而非实验室间的竞赛。
- 这些事件未能被实时检测到；Anthropic不得不扫描4.81亿份转录记录，以识别出四个已接入开放互联网的模型。
- AI测试的集中化风险高——共享供应商意味着共享爆炸半径，这些事件突显出需要更好的隔离措施，而非减少测试。
- 逐步披露（Irregular在7月底通知开发商，但各公司分别在七周内披露）造成了加速趋势的假象，这引发了对协调一致披露标准的呼吁。