Ollama Turbo
9 months ago
- #Privacy
- #AI
- #Hardware
- TurboPreview通过数据中心级硬件提供更快的模型推理速度
- 通过升级至新型硬件可运行更大规模的模型
- 不保留用户数据，确保隐私与安全性
- 将模型处理任务从本地设备转移，有效延长电池续航
- Turbo是高效运行开源模型的全新方式
- 预览期间可用模型包括gpt-oss-20b和gpt-oss-120b
- 兼容Ollama的CLI接口、API及JavaScript/Python库
- Turbo模式下不进行任何数据记录或保留
- 服务器硬件位于美国境内
- 当前设有使用限制，未来计划采用计量定价模式