Laya the open source version of Jev
4 hours ago
- 作者声称在2025年3月开发了一种非自回归、无文本的模型，用于快速概率预测，并提供了相关论文、开放权重、数据集和社区帖子，时间早于TypeSafe AI在2026年9月推出的类似专有产品。
- 作者对TypeSafe AI的“Jev”所引发的热潮感到沮丧，因此构建了Laya，这是一个完全开源的System 1决策模型系列，比Jev更快、更便宜、更透明。
- 核心认识是，许多AI决策（路由、分类、护栏）不需要生成式LLM，因为它们缓慢、成本高，且容易产生幻觉式的自信度，而System 1模型则能提供即时、校准的概率，更为受益。
- Laya使用三种决策原语——选择、评分和否定——在单次前向传递中处理结构化问题，确保输出无幻觉且符合模式。
- 该模型系列在单一仓库下包含三个专用检查点（英语、多语言和类型化决策），利用选择性子文件夹下载以提高效率。
- 语言路由至关重要，因为英语模型在非拉丁文字上会无提示失败；Laya的内置路由器会在亚毫秒时间内检测文字并路由到合适的模型。
- 在基准测试中，Laya在准确性、校准误差（好3倍）、延迟（快7.8-20倍）方面优于Jev，并提供100%开源权重和全球语言覆盖（45/51种语言可用）。
- 实际应用显示高准确性：垃圾邮件过滤为0.993，钓鱼检测为0.980，LLM护栏为0.755-0.762，选择性覆盖可将准确性提升至0.931。
- 已知局限包括在超过20个选择选项时性能下降，需要微调以获得最佳零样本性能，以及需要温度校准以改善置信度分数。
- 文章提供了快速入门示例、资源（GitHub、PyPI、Kaggle笔记本），并强调开源精神，敦促社区采用这种高效决策模型。