VoltGrid AI: Mitigating GPU cluster dI/dt power surges in software
10 hours ago
- 使用BSP的分布式深度学习集群因同步AllReduce导致严重的dI/dt瞬变,从而引发电流崩溃和电压跌落。
- VoltGrid是一个零开销的C++/CUDA介入引擎,通过微秒级秩相位级联消除同步电感悬崖,无需修改应用程序代码。
- 在4x RTX 4090集群上的实验结果表明,瞬时dI/dt功率阶跃冲击降低了97.52%,计算吞吐量达到100%,延迟影响小于0.05%。