Improving LLM token usage when debugging
9 months ago
- #coding-assistant
- #LLM
- #debugging
- 基于大语言模型的编码助手会处理大量无关日志输出，导致API成本上升和响应时间延长。
- 解决方案：推出Apparatus.Exec命令行工具，专为LLM开发工作流设计，可过滤命令输出。
- 功能包括预设快捷指令、正则表达式过滤、工作目录管理、模式模板及调试模式。
- 通过仅显示相关错误信息显著降低token消耗，提升调试效率。
- 局限性在于处理交互式命令和实时监控场景时，仍需依赖传统终端。