Context engineering
6 months ago
- #Context Engineering
- #LLM
- #AI
- 大语言模型已从对话式聊天机器人演变为关键的决策组件，这需要从'提示工程'转向'语境工程'的思维转变
- 语境工程采用更动态、精准且周密的方法向大语言模型输入标记，需统筹考虑整个上下文窗口
- 早期大语言模型主要用于文本补全，而通过特殊标记构建对话框架的聊天模式显著提升了可用性
- 提示工程往往依赖试错法，缺乏真正工程学应有的系统性方法论
- 上下文学习使大语言模型能基于提示中的新颖结构生成输出，而不仅依赖训练数据
- 融合多种数据类型（如文档、工具调用）扩展上下文会加剧复杂性，增加幻觉风险等挑战
- 语境工程将大语言模型定位从'神谕'转变为需要精心布置任务的资深分析师
- 检索增强生成（RAG）是语境工程的实践形式，通过向上下文窗口注入外部知识实现
- 语境工程中的设计模式（如RAG、工具调用）可构建模块化、健壮且可维护的系统
- 多智能体系统依托专业化代理，其上下文窗口充当智能体间的交互契约