GitHub - ggml-org/ggml: Tensor library for machine learning
4 days ago
- #tensor library
- #ggml
- #machine learning
- 专为机器学习开发的张量库，目前处于积极开发阶段。
- 主要开发工作在llama.cpp和whisper.cpp代码库中进行。
- 特性包括：跨平台底层实现、支持整数量化、广泛的硬件兼容性、自动微分功能、集成ADAM和L-BFGS优化器、无第三方依赖项、运行时零内存分配。
- 包含克隆代码库和环境配置的指导说明。
- 详细步骤演示如何构建示例程序并运行GPT-2小型117M参数模型。
- 提供启用CUDA、HIP和SYCL加速支持的配置命令。
- 包含Android NDK环境设置指南及在安卓设备上运行模型的说明。