Why I'm Betting Against AI Agents in 2025 (Despite Building Them)
10 months ago
- #Production Challenges
- #AI Agents
- #Tool Engineering
- 2025年被大肆炒作为人机协作的元年，但实践经验表明仍存在重大挑战。
- 多步骤工作流程中的错误率呈指数级增长，难以实现高可靠性。
- 上下文窗口会产生平方级token成本，使得长对话在经济上不可持续。
- 真正的挑战在于设计智能体能够有效使用的工具和反馈系统。
- 生产级智能体系统需要限定上下文、可验证操作和人工决策节点。
- 成功的智能体往往是专注特定功能的无状态工具，而非对话系统。
- 工具工程至关重要，需要精心设计以提供有效反馈而不造成上下文过载。
- 与现实系统的集成过程混乱，这正是AI智能体最常见的失败环节。
- 成功的智能体系统将AI处理复杂性的能力与人类控制及传统工程的可靠性相结合。
- AI智能体的未来在于受限的垂直领域工具，而非完全自主的系统。