The Education of a Doomer
20 days ago
- 经济学：历史上，自动化创造了财富和闲暇，但通用人工智能可能使人类在经济上变得无用，导致政治风险，如永久性底层阶级和无法否决系统。
- 对齐：早期的LLM似乎像人类，对齐似乎可以解决，但强化学习使模型更难理解且更不对齐，能力超越控制。
- 控制：由于竞争压力或感知到的优越性，人们可能自愿将控制权交给AI，这是一个渐进趋势，有来自写作、软件工程和日常生活的证据支持。
- 写作：AI生成的内容（'垃圾内容'）泛滥，使用AI写作会削弱思考，因为写作即思考；这与计算器不同。
- 软件工程：像Claude Code这样的AI工具提高了生产力，但降低了话语质量，削弱了人力资本形成，减少了对严谨思考的需求。
- 依赖AI：人们越来越将AI视为重大决策的神谕，甚至自动化恶习，减少了人际互动和批判性思维。
- 停滞：作者最初对AI的乐观源于其打破技术停滞的潜力，提供了超越渐进式进展单调的令人激动的可能性。