Why I don't think AGI is imminent
3 months ago
- #AI
- #Machine Learning
- #Cognitive Science
- OpenAI和Anthropic的CEO宣称人类级别AI已近在咫尺或已然存在，引发公众关注但缺乏技术层面的严谨审视
- 人类认知依赖于数量感知、客体永存性、因果推理等硬连线认知基元，语言虽默认这些能力却鲜少明示
- 大语言模型仅从语言数据逆向推导这些认知基元存在困难，导致算术、逻辑和空间推理存在固有局限
- 通过视频训练AI可部分习得客体永存性，但难以建立对物体持续存在与实体追踪的深层理解
- 婴儿与动物未经视觉训练即展现客体永存性等核心认知能力，暗示其进化起源
- 当前AI缺乏丰富的多感官感知-动作耦合系统，而这正是认知稳健发展的关键
- 谷歌DeepMind的SIMA 2和Dreamer 4等模拟环境虽展现潜力，仍未弥合具身体验与语言推理的鸿沟
- Transformer架构的前馈特性缺乏双向处理能力，制约其对早期表征的修正与迭代
- 神经符号AI或循环网络等替代架构或是出路，但其规模化应用仍是待解难题
- 企业CEO的AGI主张多出于营销驱动，研究者则更关注推理、泛化与具身等根本性局限
- AI基准测试的进步常依赖暴力计算而非真正的认知突破
- 实现AGI需要数十年跨学科研究，绝非简单扩展现有范式