Moondream 3 Preview: Frontier-level reasoning at a blazing speed
8 months ago
- #AI
- #Machine Learning
- #Computer Vision
- Moondream 3预览版发布公告：采用全新90亿参数混合专家架构，激活参数仅20亿
- 聚焦四大核心领域：视觉推理、可训练性、运行速度及成本效益优化
- 功能升级包含物体检测、指向识别、结构化输出及增强版OCR技术
- 上下文长度从2k扩展到32k token，显著提升复杂查询处理能力
- 基准测试显示其性能可比肩前沿模型，且推理速度更快
- 技术文档详述模型架构、训练动态及长上下文处理机制
- 预览版注意事项：推理代码尚未优化，模型训练仍在持续进行
- 模型已登陆Moondream测试平台和HuggingFace，后续将推送更新