Who Needs DRAM? We Have Fiber
8 hours ago
- #Optical Memory
- #Hardware Architecture
- #AI Accelerators
- 超大规模数据中心和生成式人工智能正在增加对动态随机存取存储器的需求及价格压力。
- 光纤存储器使用光纤作为活性循环延时线存储器，适用于如大语言模型权重这类不可变数据。
- 该架构采用多芯光纤、被动光分接放大接口、共封装光学器件及全光再生技术。
- 它消除了数千个人工智能加速器中冗余的权重存储需求。
- 与传统高带宽存储器3代配置相比，该系统可将权重传输能耗降低超过70%。