The Darwin Gödel Machine: AI that improves itself by rewriting its own code
a year ago
- #Self-Improving AI
- #AI Research
- #Machine Learning
- 达尔文-哥德尔机（DGM）是一种通过自我改写代码来提升编程任务性能的自改进人工智能系统
- DGM利用基础模型和开放式算法探索多样化AI智能体，其性能随算力增加持续提升
- 实验表明DGM在SWE-bench和Polyglot等编程基准测试中显著超越人工设计智能体
- 通过维护多样化智能体档案库实现并行进化路径，DGM的开放式探索避免陷入局部最优解
- 安全措施包括沙盒环境、人工监督和可追溯的修改谱系，确保与人类意图对齐
- DGM展现出跨模型和编程语言的改进迁移能力，表明其智能体设计增强具有普适性
- 当前挑战包括奖励破解和幻觉现象，需进一步研究确保自改进过程的安全可控
- 未来工作将扩展DGM规模并优化基础模型训练，在保障安全前提下释放社会效益