Shapelearn Qwen 3.8 27B (13.1 GB VRAM)
6 hours ago
- ShapeLearn-Lite 以较小的优化预算快速发布，但完整的 ShapeLearn 模型现在在所有测试的 GPU 上都优于它。
- 完整的 ShapeLearn 模型设定了新的质量-速度前沿，其中 GPU-5 (IQ4_XS) 达到了 BF16 性能的 99.63%，并在内存允许时推荐为默认选项。
- ShapeLearn-Lite 在基准测试任务中的表现优于其 KLD 排名所暗示的；KLD 并不总是与任务性能相关。
- 使用 MTP 或 DFlash2 的推测解码提高了所有 ShapeLearn 模型的吞吐量；DFlash2 更快，但需要更多内存且不支持图像输入。
- 基准测试覆盖了多个 GPU（96GB 到 16GB），并显示了一致的排序：更大的模型产生更高的准确性，更小的模型产生更高的吞吐量。