LLMs Aren't World Models
9 months ago
- #AI Limitations
- #LLMs
- #World Models
- 大语言模型缺乏真实的世界模型，这体现在它们下国际象棋失败以及无法理解阿尔法混合等基础概念上
- 实例显示大语言模型无法追踪棋盘棋子或理解图像编辑中的透明度，表明其未能掌握底层原理
- 大语言模型可以生成看似合理的答案却不具备真正理解能力，这会导致逻辑和推理错误
- 作者预测未来机器学习突破将聚焦于开发真实世界模型，而非当前的大语言模型架构
- 由于缺乏知识和真理的建模，大语言模型永远无法可靠地认知自身未知领域或停止虚构内容
- 作者将大语言模型的思维方式比作人类认知缺陷——预测词语不等于真正理解
- 尽管存在局限，大语言模型在可验证的任务中仍有实用价值，如校对文本或回答已知问题