Hasty Briefsbeta

双语

Claude Code sends 33k tokens before reading the prompt; OpenCode sends 7k

6 hours ago
  • #token efficiency
  • #performance benchmarking
  • #AI agents
  • Claude Code在相同任务上使用的tokens显著多于OpenCode,其基线开销约为33,000个tokens,而OpenCode的简单回复仅需约7,000个tokens。
  • 缓存效率低下是主要因素;Claude Code在会话中重写了数万个提示缓存tokens,导致缓存写入量最高可达OpenCode的54倍。
  • 配置元素如指令文件和MCP服务器会带来大量tokens开销,实际设置中在用户输入前可能达到75,000至85,000个tokens。
  • 子代理会急剧增加tokens使用量;一个原本消耗121,000个tokens的任务在分发给两个子代理后飙升至513,000个tokens。
  • 在多步骤任务中,Claude Code的批处理相比OpenCode的串行方式可减少总tokens,但其基线成本仍然更高。
  • tokens差距因模型而异;Claude Code在较新模型(如Fable 5)上的系统提示较小,缩小了开销比例。
  • 提示缓存可降低成本但无法完全消除;缓存写入、读取和上下文窗口消耗仍会产生费用。
  • Claude Code存在缓存前缀不稳定性,导致比OpenCode(前缀稳定)更频繁且更高成本的缓存重写。
  • 测量通过记录精确JSON载荷和API使用的日志代理进行,结果记录在审计跟踪中以确保完整性。
  • 研究结果凸显了在生产环境中监控tokens使用的重要性,尤其在《欧盟人工智能法案》等法规要求下。