- 据报道,谷歌正在开发一款名为“Frozen v2”的芯片,该芯片将Gemini模型的架构直接固化到硅片中,而非将模型加载到通用芯片上。
- 该芯片的效率可能比谷歌最新的TPU高出6到10倍(以每单位功耗处理的令牌数衡量),并计划最早于2028年部署。
- 该项目部分是为了应对谷歌内部的AI算力危机,该危机已导致部分云客户被拒,并引发内部紧张。
- 效率是主要优势:固定设计降低了功耗和延迟,适合语音助手等实时应用。
- 这种方法牺牲了灵活性——芯片架构锁定为Gemini的当前设计,尽管权重仍可更新,但到2028年可能面临过时风险。
- 谷歌并非孤例;初创公司Taalas推出了类似的“Hardcore”芯片,直接将模型印制到硅片上,声称具有高吞吐量和更低内存成本。
- 该芯片将与谷歌的TPU产品线分开,进一步深化对英伟达的依赖降低,并将芯片订单分散到多个供应商。
- 谷歌尚未确认该项目,称其仍处于实验阶段;这标志着行业将特定模型与硬件融合的趋势信号。