LLM Memory
a year ago
- #Memory Systems
- #LLM
- #Knowledge Graphs
- 大语言模型在小说创作中因有限上下文窗口面临记忆挑战。
- 参照框架对知识有效性至关重要，包括时间和空间背景。
- 向量嵌入难以处理情景记忆且缺乏可解释性。
- 知识图谱可分为基于文档或使用语义边进行连接的类型。
- 元文档作为高频查询信息的缓存机制。
- 知识图谱中自动与显式连接建立的对比。
- 需要遗忘机制来管理图谱复杂度。
- 情景记忆由按时间顺序链接的叙事文档构成。
- 高效记忆查询的遍历策略。
- SQLite等外部工具可增强核心记忆系统。
- 作为简单记忆系统的草稿纸面临修剪挑战。
- 分层管理不同知识类型（身份记忆与情景记忆）。
- 因模型限制，隐式记忆控制优于显式控制。
- 未来记忆系统可能依赖完全学习的神经方法。