6 months to live for open models
5 hours ago
- #Policy Challenges
- #Open Source AI
- #AI Regulation
- 开源人工智能可行性的最严峻测试正在当下进行，这源于可能将开源模型边缘化的政策行动。
- 白宫讨论可能导致影响开源模型的新行政命令，可能首先针对中国来源模型和政府用途。
- 开源模型缺乏核心经济支柱来抵御监管行动，不像闭源模型拥有强大的游说力量。
- 可能的政策行动包括在未来6个月内禁止或推迟能力超越GPT 5.5级别的开源权重模型。
- 影响开源模型的两大政策讨论焦点是知识蒸馏（如Anthropic等公司的监管套利）和前沿能力限制。
- Anthropic针对中国模型的行动被视为监管套利，旨在排除竞争对手并确保经济优势。
- 蒸馏辩论聚焦于中国实验室提取网络安全能力等风险，但API接口并非天然安全且存在漏洞。
- 开源模型禁令可能摧毁美国新兴的开源模型经济生态，包括推理服务和微调公司。
- 处理像Mythos这样的前沿开源权重模型需要审慎政策；若未全球执行，一刀切禁令可能失效并使美国陷入孤立。
- 开源模型通过广泛访问和深度理解提升安全性；阻止开源进步需要全球共识，而目前尚未达成。
- 短期解决方案包括美国公司发布强力开源模型以转移对中国模型的关注，或建立联盟游说安全开源模型的部署。