Researchers isolate memorization from reasoning in AI neural networks
6 months ago
- #AI Research
- #Machine Learning
- #Neural Networks
- AI语言模型展现出两大处理特征：记忆与推理
- Goodfire.ai最新研究表明这两种功能通过不同的神经通路运作
- 移除记忆通路使逐字复述减少97%，但推理能力基本不受影响
- 在OLMo-7B模型中，第22层对记忆与非记忆数据表现出截然不同的激活模式
- 算术运算与记忆共享神经通路而非推理通路，这解释了AI的数学短板
- AI的'推理'仅包含模式匹配任务，而非深层次的逻辑或数学问题求解