Agentic Context Management: Why the Model Should Manage Its Own Context
2 months ago
- #Agentic Systems
- #AI
- #Context Management
- 代理式上下文管理（ACM）提出模型应主动管理自身上下文，而非依赖被动或引擎驱动的方法。
- 现有方法如递归语言模型（RLM）和无损上下文管理（LCM）存在局限：RLM专注于处理大型静态输入但缺乏对话管理，而LCM在上下文压缩中缺少语义判断能力。
- ACM将会话日志（不可变记录）与上下文视图（动态投射）分离，使模型能通过remove_context、pin、unpin和retrieve_context等工具管理上下文。
- 模型通过实时上下文统计数据做出决策，确保长期运行的代理会话中保持相关性与效率。
- ACM押注于提升模型的上下文管理能力，这与LCM依赖静态引擎启发式方法形成对比。
- 该架构设计极简、缓存友好，专为长时交互会话优化，坚持模型自主判断优先于固定启发规则。