Every LLM buzzword explained as a fantasy story (RAG, MoE, LoRA, RoPE, etc.)
a year ago
- #LLM
- #Fantasy
- #Education
- 《词汇之典》是一部通过隐喻和魔法元素解释大语言模型（LLM）概念的奇幻故事
- 全书共分八章，每章对应大语言模型的不同方面，包括结构、调优、检索、提示、智能体、内部机制、评估和部署
- 涵盖的核心概念包括：Transformer架构、分词技术、嵌入向量、自回归、上下文窗口、token成本、预训练、微调、人类反馈强化学习（RLHF）、低秩自适应（LoRA）、检索增强生成（RAG）、提示工程、思维链（Chain-of-Thought）、ReAct框架、LLM智能体、专家混合模型（MoE）、旋转位置编码（RoPE）、闪电注意力、稀疏注意力、MMLU基准、TruthfulQA评估、幻觉问题、基础评分、LLM运维、token限制、流式推理和防护机制
- 每章皆以魔法比喻诠释技术概念，使复杂理论更易理解且印象深刻
- 故事强调掌握这些概念对实际应用大语言模型至关重要
- 终章总结奇幻之旅，激励读者将所学知识付诸实践