Context graphs: how AI agents can store and use past decisions
7 days ago
- #AI Agents
- #Decision Memory
- #Context Graphs
- 上下文图在智能体记忆中存储决策背后的‘为什么’，捕捉推理过程和实体间的联系，这是传统系统无法记录的。
- 扁平化的上下文窗口会导致上下文腐败且缺乏决策轨迹，使得大型语言模型在处理大量非结构化数据时效率低下，遗漏关键的组织内部知识和历史先例。
- 上下文图将记忆结构化为节点（实体）和边（关系），使智能体能高效遍历结构化数据，减少令牌使用和延迟，并避免重复计算链接。
- 上下文图中的决策轨迹记录了问题、选项、约束、例外、推理过程和结果，将过去的决策转化为先例，供智能体用于自主学习和改进。
- 实施方法包括在决策发生时立即捕获以最小化摩擦，使用图结构缓存跳转路径并强制执行推理存储，并与编排层集成以实现跨系统的完整上下文。
- 虽然代理搜索在确保准确性方面有效，但由于重复调用大型语言模型而成本高昂且延迟高，且无法检索未经推理的数据；相比之下，上下文图优化了这些因素并强制要求推理捕获。
- 挑战包括确保高质量的原理输入，通过精心管理避免决策沼泽，以及平衡人类与智能体的推理，因为这项技术仍处于早期阶段但已展现出有希望的结果。
- 一个完整的AI原生栈结合上下文图，包括记录系统、执行框架、用于决策轨迹的图结构，以及处于反馈循环中的智能体与人类，从而实现通用上下文和持续学习循环。
- 上下文图对于自动化复杂、例外繁多且跨职能的流程（如采购、索赔和合规）尤其有价值，这些流程的决策依赖于多系统间细微差别的上下文。