Our position on open-weights models
2 days ago
- Anthropic及其CEO Dario Amodei并不主张禁止开源权重模型，认为在缺乏危险能力时，这些模型是一种公共产品。
- 主要担忧是威权政府，特别是中国，将强大的AI用于军事或压制性目的，这与美国企业使用开源权重无关。
- 次要担忧是滥用强大的AI模型进行网络或生物攻击；开源权重因难以应用防护措施而增加风险，但禁止美国企业使用并不能解决这个问题。
- Anthropic支持三项措施：限制向中国销售芯片、打击工业规模的蒸馏行为、对所有足够强大的模型（无论是否开源）进行强制性安全测试。
- 不同意公开信的说法，即开源权重模型天然有助于安全防护或防御者，认为此类问题应通过实证测试来解决。