LLMs Are Short-Circuiting. What Comes Next?
8 months ago
- #AI
- #LLMs
- #AGI
- 大语言模型（LLMs）与生成式AI面临重大挑战，包括AI幻觉、版权争议及职业替代忧虑。
- 加里·马库斯等批评者指出，尽管规模扩大，LLMs仍未实现通用人工智能（AGI），且缺乏类人推理与灵活性。
- 杰弗里·辛顿与马库斯就AI可解释性展开辩论，马库斯反对AI必须复刻人类智能的观点。
- 穆尼尔·希塔将智能定义为在物理约束下引导因果链实现目标的能力，强调需要基于物理学的动态模型。
- 马克·法齐提出AI四层系统架构：统计、结构、推理与目标层，强调对齐机制对真正智能的关键作用。
- 单纯扩大算力与数据无法实现AGI，GPT-5和Grok4等模型已显现收益递减现象。
- 替代方案包括神经符号AI（朱迪亚·珀尔的因果推理）、杰夫·霍金斯的时间记忆理论等新范式。
- 理查德·萨顿与杨立昆批评LLMs缺乏世界模型和目标导向，仅是符号生成器。
- 马库斯主张开发AlphaFold这类专注可靠的AI系统，而非用现有缺陷技术追逐AGI。
- 希塔强调AGI需内置伦理框架，警告后添加的安全护栏会削弱系统能力而非保障安全。