Build agents, not pipelines
2 days ago
- 本文对比了在软件中使用大语言模型的两种方法:流水线(代码中的控制流)和智能体(大语言模型通过工具管理控制流)。
- 流水线更可预测且成本效益更高,而智能体在处理复杂任务时提供更大的灵活性和智能性。
- 对于代码生成等难题,智能体更受青睐,因为它们能通过如grep和读取文件等工具自主收集上下文。
- 文本建议在严格限制上下文大小或成本时使用流水线,而在不确定如何汇聚所有相关上下文时使用智能体。
- 关键示例包括使用智能体进行编码辅助,以及将两种方法结合用于像电子邮件监控这样的大规模任务。