OpenAI unveils its first custom chip, built by Broadcom
18 days ago
- #AI Hardware
- #Inference Processor
- #Chip Development
- OpenAI与博通合作推出了其首个自主研发的推理处理器，命名为Jalapeño。
- 该芯片专为推理任务设计，旨在减少对英伟达GPU的依赖，并提升每瓦性能。
- OpenAI利用其AI模型辅助开发，针对未充分满足的工作负载，以加速AI能力发展。
- Jalapeño专注于降低实时编码模型的运营成本，尽管密集的预训练可能仍需依赖英伟达。
- OpenAI强调通过优化芯片架构、内核和系统等基础设施，使模型运行更快且更经济实惠。