Towards a Harness That Can Do Anything
2 hours ago
- #Agentic systems
- #Unix philosophy
- #LLM harness design
- LLM 运行框架应直观、透明、轻量且具备容错性,以减轻机器人的认知负荷。
- 核心原则包括:目标执行的确定性、核心提示词的最小化,以及避免上下文长度限制问题。
- 通过利用熟悉的 Unix/Linux 环境,发挥LLM的编码知识以提高效率。
- 运行框架需要具备可审计性、日志记录和自愈能力,以处理LLM层面和框架层面的故障。
- 遵循Unix哲学:模块化工具、互操作性以及以文本流作为通用接口。
- 使用文件系统层次结构(如FHS)组织数据,以帮助智能体轻松导航和管理外部数据。
- 引入“内核”事件总线来监控文件变更并触发LLM响应,以实现实时处理。
- Ambiance 原型包含 root、pai 和 librarian 等默认用户,用于系统任务和交互。
- 基于现有模型知识(如文件、日志)构建的运行框架,其性能优于需要新训练的框架。