Nativ: Run frontier open models locally on your Mac
12 hours ago
- Nativ允许在Apple Silicon Mac上本地运行来自Google、Cohere和Liquid AI的开放模型，并根据硬件提供定制化的模型推荐。
- 功能包括简洁的流式界面、支持Markdown、代码高亮、图像输入，以及性能监控（如令牌/秒和热状态）。
- 基于MLX-VLM构建，针对M系列统一内存和Metal进行了优化，无需封装或转换层。
- 支持多种任务：与LLM聊天、图像描述、视频摘要、代码自动补全以及语音转录/生成。
- 强调隐私保护：无需账户、订阅、积分或数据销售；完全由用户端到端掌控。
- 开源且采用MIT许可证，代码、模型加载器和遥测数据完全透明，鼓励社区分支和贡献。
- 通过提供本地端点与现有编程代理集成，保持熟悉的工作流程，无需付费墙或专有限制。