The AI risk is inside the labs
a day ago
- 首个严重的人工智能事故很可能发生在前沿实验室的测试过程中，而非由开放模型引发。
- 封闭模型容易因内部人员泄露而受损；开放模型在测试后发布，且类似的API模型已经存在。
- 开放模型可以通过消除危险知识（如生物学）来限制危害，同时保持其实用性。
- 限制人工智能在网络安全领域的开放获取会造成不对称武器，而开放模型则能促进防御性漏洞发现。
- 真正的人工智能安全需要联合全球组织，由专家和政府共同认可，而非单边实验室决策。
- 放缓人工智能发展存在隐藏的安全成本：可能错失拯救生命的医学和科学进步。
- 鉴于西方历史上的问题，Amodei的反华立场有失公允；中国历史上较少好战，其人工智能发展是必然趋势。
- 技术霸权从未带来永久优势；最大的威胁来自不法分子或人工智能失控，而非开放模型或中国。
- 缺乏正当性和背景的首席执行官不应为人类做出关乎存亡的决定，这必须首先得到纠正。