Gemini Diffusion
a year ago
- #AI
- #Diffusion Models
- Gemini Diffusion是谷歌首个采用扩散模型而非Transformer架构的大语言模型
- 扩散模型通过逐步降噪生成内容，能实现更快响应与更连贯的输出
- 得益于迭代生成特性，Gemini Diffusion在文本编辑、数学运算和代码生成任务中表现突出
- 该模型速度达857词元/秒，可即时生成交互式HTML+JavaScript内容
- 性能接近Cerebras Coder运行Llama3.1-70b模型时2000词元/秒的表现
- 谷歌宣称其性能比肩Gemini 2.0 Flash-Lite版本，但速度快5倍
- 在此之前，Inception Mercury是唯一可商用的扩散模型解决方案