Ironwood: The first Google TPU for the age of inference
a year ago
- #Google Cloud
- #AI
- #TPU
- 谷歌发布第七代张量处理器Ironwood，专为AI推理任务设计
- Ironwood标志着AI模型从响应式转向主动推理式，开启'推理时代'
- 采用突破性芯片互连技术(ICI)，最高支持9,216块液冷芯片组，功耗近10兆瓦
- 该处理器属于谷歌云AI超算架构，专为高强度AI工作负载优化
- 开发者可通过Pathways软件栈调用数万块Ironwood TPU的算力
- 全规模运算能力达42.5百亿亿次，相当于全球最大超算的24倍
- 配备增强型稀疏核心处理器，支持超大规模嵌入及改进的内存网络架构
- 相较Trillium性能提升2倍，能效比初代云TPU提高30倍
- 单芯片配备192GB HBM内存(Trillium的6倍)，HBM带宽达7.2Tbps(4.5倍)
- 1.2Tbps双向ICI带宽(Trillium的1.5倍)实现更快的芯片间通信
- 支持Gemini 2.5和AlphaFold等前沿AI模型，将于今年晚些时候上市