LiquidAI D1 Decision Model
a day ago
- LiquidAI/d1-3B是一个3.1B参数的多模态决策模型,能在单次前向传播中返回经过校准的、类型化的答案(是/否、选择、评分),且输出令牌数为零。
- 它支持文本、JSON和图像作为输入,专为路由、审核、意图分类、提取检查、重排序和视觉检查等任务设计,不适用于聊天。
- 该模型可通过Transformers(使用trust_remote_code)、vLLM、SGLang、Docker Model Runner以及Google Colab和Kaggle等笔记本使用。
- 它取得了48.57的决策指数得分,优于许多更大的模型,并提供快速推理(在NVIDIA RTX 4090上每个决策8毫秒)。
- 开源访问需要transformers>=5.14和trust_remote_code=True;该模型可在Hugging Face上获取,并可部署在本地或边缘设备上。