How Much Linear Memory Access Is Enough?
3 days ago
- #Memory Performance
- #Block Size Optimization
- #CPU Cache Effects
- 线性内存访问性能取决于块大小，超过一定阈值后收益递减。
- 为实现峰值性能：通常1 MB的块已足够，128 kB的块至少可实现约1周期/字节，4 kB的块足以实现约10+周期/字节。
- 实验使用了标量统计（轻度处理）、SIMD求和（快速SIMD）和重正弦（重度计算）等内核来测试块大小。
- 缓存干扰和随机化布局被用来模拟冷缓存场景，而重复运行则模拟预热缓存。
- 结果显示块大小需求随工作负载强度变化，计算密集型任务需要较小的块以实现峰值性能。
- 这些发现适用于线性逐块处理；跨步访问、分配或其他逐块成本可能改变曲线趋势。