Ornith-1.0: Self-scaffolding LLMs for agentic coding
14 days ago
- #AI models
- #coding benchmarks
- #self-improving training
- Ornith-1.0 模型系列的介绍：这是一个用于智能编码任务的自改进开源模型家族。
- 模型变体包括 9B 密集模型、31B 密集模型、35B 稀疏混合专家模型和 397B 稀疏混合专家模型，均基于预训练的 Gemma 4 和 Qwen 3.5 构建。
- 关键创新：采用自改进训练框架，模型能够同时生成解决方案演练和任务特定测试工具。
- 性能达到行业领先水平：在多项基准测试中，Ornith-1.0-397B 模型可匹配或超越 Claude Opus 4.7、Minimax M3 和 DeepSeek-V4-Pro 等模型。
- Ornith-1.0-9B 模型适用于边缘部署场景，性能表现强劲，甚至超越了更大的模型如 Gemma 4-31B。
- 通过固定信任边界、确定性监控和冻结大语言模型评判器，有效应对奖励滥用问题。
- 采用异步强化学习训练，结合管道-RL 策略和令牌级 GRPO 损失函数。
- 详细的基准测试性能表格显示，模型在多项编码和智能任务基准测试中均表现出优越性。