Building a (Bad) Local AI Coding Agent Harness from Scratch
3 days ago
- #Local-GPU
- #AI
- #Node.js
- 用约400行原生Node.js代码构建了终端基础的编程代理，完全本地运行于GPU，无需云服务依赖
- 开发中使用Claude Sonnet 4.6和Ollama框架下的Google Gemma 3 4GB模型
- 展示了核心概念的初级实现：代理循环、工具使用和沙盒机制
- 通过栅栏式代码块(read/write/ls)实现LLM与文件系统交互的简单协议
- 通过限制文件操作用户自定义工作目录实现沙盒隔离
- 代理循环维护对话历史记录，驱动与模型的轮次式交互
- 工具使用协议允许模型通过发送特殊标记块执行文件操作
- 系统提示词经过精心设计以引导模型遵循定制协议
- 包含/test命令用于验证模型对协议的遵守情况
- 尽管存在部分失败案例，但成功演示了本地编程代理的基本框架