Nvidia's Olympus Core: Pushing Server Single Threaded Performance Boundaries
12 hours ago
- Olympus 是一个10路乱序服务器核心，旨在通过高每时钟效率最大化单线程性能，运行在适中的3.3 GHz频率。
- 它不同于Arm的Cortex X925，采用了同步多线程（SMT）并使用更大的乱序结构。
- 分支预测强大但略逊于AMD的Zen 5；它可以在48 KB指令足迹内每周期处理两个已采取分支，拥有16K条目BTB。
- NVIDIA在分支预测中使用前向索引，相比竞争对手每周期预测能力高出2.3倍。
- 指令获取包含一个64 KB指令缓存，每周期向48指令解码队列输送128字节；L2获取吞吐量高，但L3溢出时急剧下降。
- 重命名与分发支持有限的移动消除；每线程移动消除在运行两个线程时得到改善，这与典型的SMT行为不同。
- 后端拥有巨大的寄存器文件和队列，调度器类似于Cortex X925；支持最多606个分配架构寄存器。
- 加载/存储：四个流水线（两个用于存储），64位到32位存储转发按半字工作，但对其他重叠有惩罚，并在32B边界处有奇怪的问题。
- 缓存层次：96 KB L1数据缓存，2 MB L2（10周期加载到使用），164 MB L3，延迟超过120周期；激进预取维持约51个同时进行的L3未命中。
- 在SPEC CPU2026中，Olympus提供了接近桌面核心的单线程性能，远超Neoverse竞争对手；IPC通常高于Zen 5。
- SMT（'空间多线程'）静态分配几乎所有资源，整数增益与Zen 5相当，但浮点负载中偶尔有吞吐量损失。
- 空间多线程有效地将核心拆分为两个较小的5路核心；这简化了设计但可能限制动态资源共享，SMT增益不一。
- Olympus在SPEC CPU2017中击败了多个服务器核心，匹配顶级Zen 4桌面性能，在分支密集型负载中SMT增益高。
- 总体而言，NVIDIA的Vera/Olympus凭借低频率、高IPC设计和强大的SMT吞吐量，为服务器单线程性能设立了新标杆。