LLM Memory
a day ago
- LLM记忆受限于较小的上下文窗口，使得一致的长篇故事生成变得困难。
- 知识需要参考框架（时间、空间或抽象）才能有效，因为事实会随时间或上下文而变化。
- 向量嵌入将文本映射到N维点，但在处理情景记忆时存在困难，且难以进行推理。
- 知识图谱使用链接节点，边可以是有标签（语义）或无标签的，来表示关系。
- 元文档存储过去查询或推理的缓存结果，有助于巩固和重用知识。
- 遗忘机制（如连接衰减或基于LLM的剪枝）可防止图的无限制增长并保持其有用性。
- 情景记忆以叙事形式记录智能体的经验，通常按时间线连接以便后续检索。
- 记忆遍历可以是智能体式的，使用优先级队列和子智能体高效搜索相关文档。
- 像SQLite表或便签本这样的工具可以补充核心记忆，但如果没有结构，模型可能无法妥善管理剪枝。
- 隐式记忆控制优于显式智能体控制，以避免过度自信和循环。
- 未来的神经方法可能会将这些技术纳入完全学习的记忆系统中。