The Closing of the Frontier
5 days ago
- #AI Ethics
- #Digital Frontier
- #Technological Inequality
- Anthropic公司推出Mythos模型的消息让作者感到自己很贫穷，这象征着数字前沿的关闭——过去互联网曾为创新和杠杆提供了平等的机会。
- 作者借鉴弗雷德里克·杰克逊·特纳的边疆理论，将当前先进AI模型受限比作美国边疆的关闭，而历史上边疆为人们提供了逃离等级制度并激发雄心的出路。
- 互联网曾是经济流动性的可及通道，即便没有资本或资历的人也能使用与富人相同的工具进行创造，但随着前沿AI模型被圈禁，这种情况正在改变。
- 先进AI模型集中在少数企业和富裕实体手中，可能催生永久性的底层阶级，资本取代劳动力和智力，导致一些人所谓的‘新封建主义’。
- Anthropic与微软、思科等大公司就Project Glasswing展开合作，引发了人们对安全漏洞的担忧，以及国家规模能力未经民主问责或正当程序就被私有化的忧虑。
- 限制前沿模型的获取会扼杀创新和安全研究，正如AI安全研究人员因无法获取而依赖开源模型所证明的那样，而公众访问可能迫使潜在能力公开，从而加速改进。
- 作者主张预设AI能力应可获取，并配以可随时间调整的安全护栏，同时呼吁建立类似于政府监督的透明度、正当程序和申诉机制。
- 利用人类数据训练AI，却将其锁起来仅供少数人使用，这复制了历史上提取和集中价值的模式，实验室则以全民基本收入等未来利益为这种安排提供道德掩护。
- 希望当前时代能像计算机的大型机阶段那样，开源模型正在缩小差距，硬件扩展使智能变得廉价且可及，但也要警惕过度监管可能扼杀潜力。