a day ago
- LLM记忆受限于较小的上下文窗口,使得一致的长篇故事生成变得困难。
- 知识需要参考框架(时间、空间或抽象)才能有效,因为事实会随时间或上下文而变化。
- 向量嵌入将文本映射到N维点,但在处理情景记忆时存在困难,且难以进行推理。
- 知识图谱使用链接节点,边可以是有标签(语义)或无标签的,来表示关系。
- 元文档存储过去查询或推理的缓存结果,有助于巩固和重用知识。
- 遗忘机制(如连接衰减或基于LLM的剪枝)可防止图的无限制增长并保持其有用性。
- 情景记忆以叙事形式记录智能体的经验,通常按时间线连接以便后续检索。
- 记忆遍历可以是智能体式的,使用优先级队列和子智能体高效搜索相关文档。
- 像SQLite表或便签本这样的工具可以补充核心记忆,但如果没有结构,模型可能无法妥善管理剪枝。
- 隐式记忆控制优于显式智能体控制,以避免过度自信和循环。
- 未来的神经方法可能会将这些技术纳入完全学习的记忆系统中。