Liquid AI releases a 230M model optimized for phones, Raspberry Pi, and robots
12 days ago
- #edge computing
- #AI model
- #fine-tuning
- LFM2.5-230M是一个小巧、快速的模型，适用于智能体工作流的微调和部署，可在包括云GPU和CPU在内的各种设备上实现快速推理。
- 该模型基于19万亿个token进行预训练，并通过监督微调、直接偏好优化和多领域强化学习进行后训练，平衡了能力与适应性。
- 模型在类人机器人上进行了技能选择测试，利用英伟达的SONIC框架将自然语言指令转换为结构化计划。
- 基准测试显示，LFM2.5-230M在知识理解、指令遵循、数据提取和工具使用任务上与更大模型竞争或表现更优。
- 它支持跨生态系统（如llama.cpp、MLX、vLLM和ONNX）的快速推理，针对CPU和GPU性能进行优化，以实现低延迟和高吞吐量。
- LFM2.5-230M采用开放权重，可在Hugging Face上获取，设计用于大规模数据提取或轻量级设备端工作负载，但不适用于推理密集型任务。