Harness Engineering for Self-Improvement
4 hours ago
- 递归自我改进（RSI）可追溯至I.J. Good（1965）和Yudkowsky（2008），即AI改进自己的认知机制。
- 支架工程——围绕基础模型的系统（编排、工具、内存、工作流）——是近期RSI的关键推动因素，补充模型智能。
- 关键的支架设计模式包括工作流自动化（目标导向循环）、文件系统作为持久化内存，以及可检查状态的子代理/后端作业并行。
- 上下文工程（ACE、MCE）和元支架优化从静态提示转向可演变、结构化的上下文管理，并随反馈改进。
- 工作流和支架设计可以通过搜索算法（ADAS、AFlow、像AlphaEvolve这样的进化搜索、达尔文·哥德尔机）自动优化，使智能体能够改进自己的部署系统。
- 自我改进的支架（STOP、Self-Harness、AHE）使用故障分析、证据驱动的编辑和回归测试来迭代优化支架组件。
- 主要挑战仍然存在：弱/模糊评估器、内存退化、多样性崩溃、奖励欺骗，以及确保超越短期基准的长期成功；在适当抽象层次上进行人工监督至关重要。