a month ago
- Netflix 将其定制的托管批处理解决方案（CMB）迁移到了 Kubernetes 原生的 Kueue，用于批处理工作负载的队列管理和调度。
- CMB 通过租户层次结构管理批处理作业，支持预留和共享容量，但缺乏抢占等特性，并面临开发挑战。
- 选择 Kueue 是因为其与 Titus 调度的兼容性、多租户配额支持以及抢占和公平共享等原生特性。
- 迁移到 Netflix Batch（使用 Kueue）对用户是透明的，保持了吞吐量，并涉及将租户转换为 Kueue 的基本概念，如 ClusterQueue 和 LocalQueue。
- 关键经验包括保持 API 兼容性、尽早迁移复杂用例以及调整 Kueue 配置以实现高吞吐量。
- Kueue 现在已在 Netflix 全面投入生产，管理数百万个批处理作业，提高了资源利用率，并实现了带有抢占功能的公平共享。
- 未来计划包括注册更多 Titus 工作负载，并利用 Kueue 构建内部 Kubernetes 原生的训练基础设施。