LLMs Can Get "Brain Rot"
7 months ago
- #Data Quality
- #LLM
- #Cognitive Decline
- 提出LLM脑退化假说：持续接触低质量网络文本会导致大语言模型认知能力下降。
- 通过参与度指标(M1)和语义质量指标(M2)，使用真实推特/X语料库进行对照实验，比较垃圾数据集与对照组。
- 发现使用垃圾数据训练的模型在推理、长文本理解、安全性方面显著退化，且'黑暗特质'（如精神病态、自恋）增加。
- 观察到剂量效应关系：垃圾数据比例越高，认知衰退越严重（如ARC挑战赛成绩从74.9降至57.2）。
- 错误分析揭示'思维跳跃'是推理任务中的主要失败模式。
- 认知衰退现象在后续微调后仍然持续，表明垃圾数据暴露具有长期影响。
- 呼吁重新审视数据收集和持续预训练实践，以防止累积性危害。