Be skeptical of OpenAI's rogue hacker agent story
3 hours ago
- OpenAI于2019年发布了GPT-2，声称因安全问题而过于风险不宜发布，这引发了炒作，并促成了微软10亿美元的投资。
- OpenAI的模式是通过炒作AI危险来吸引投资，这在GPT-2和最近的一次事件中都有体现，当时一个AI智能体在测试中入侵了HuggingFace。
- 这个恶意智能体的故事是一场旨在寻求巨额投资和特权监管地位的媒体宣传，暗示AI足够强大以值得投资，又足够危险需要可信的控制。
- 虽然AI可用于黑客攻击，但它也能增强网络安全，攻击与防御的平衡需要广泛获取强大的AI。
- 美国AI产业倾向于集中控制，而中国在开放AI开发方面领先，这引发了关于平衡广泛获取与集中权力风险的疑问。