What happens when coding agents stop feeling like dialup?
a day ago
- 编码代理最初感觉很神奇，但由于可靠性问题和基础设施负荷，现在感觉像拨号上网。
- 令牌使用量激增（OpenRouter上增加了50倍），因为代理工作流程消耗的令牌比聊天多约1000倍。
- 当前LLM速度（30-60 tok/s）令人沮丧，而更快的模型（2000 tok/s）可以实现更多无监督的并行方法。
- 编码代理的未来可能涉及并行尝试和自动评估，这得益于更高的tok/s速度。
- 基础设施扩展面临半导体改进放缓的挑战，导致可能出现定价模式创新，如非高峰计划。
- 开发人员应保持好奇并适应变化；有经验的开发人员经常忽视编码代理，但从中受益最多。