Why I'm Betting Against the AGI Hype
6 months ago
- #LLMs
- #AI Hype
- #AGI
- 作者认为当前基于大语言模型的方法是有用的工具，但由于根本性的架构限制，不太可能实现通用人工智能
- 关键限制包括学习与推理的分离、规模扩大时灾难性遗忘加剧，以及能源效率低下
- 作者指出将意识视为工程问题而非复杂现象存在范畴错误
- 复合概率分析表明，近期通过扩大语言模型实现通用人工智能突破的可能性较低（1-15%）
- 围绕通用人工智能的经济泡沫是由叙事动能和激励错配驱动的，而非技术可行性
- 专家意见呈双峰分布：行业领袖对语言模型通向通用人工智能持乐观态度，而学术研究者普遍怀疑
- 作者对通用人工智能炒作持反对态度，强调需要从根本上不同的智能研究路径