Mozilla Releases Llamafile 0.10
2 months ago
- #AI
- #LLM
- #Mozilla
- Mozilla发布Llamafile 0.10版本，增强其易用性大型语言模型（LLM）的AI产品
- Llamafile支持将大语言模型作为单一文件跨平台和硬件运行
- Llamafile 0.10新特性包括全新构建系统、新增模式支持及升级的Llama.cpp引擎
- 集成Whisper.cpp和Stable Diffusion作为子模块，改进BSD系统兼容性及其他优化
- 新增混合文本用户界面的聊天/服务器模式、单次提问CLI模态、增强日志记录与参数处理功能
- 增加'--image'参数指定图像输入、macOS系统Metal GPU加速支持，并恢复NVIDIA CUDA支持
- 相关文档与下载资源已发布于GitHub平台