How to use the Qwen 3.5 LLMs to OCR documents
a day ago
- 作者对Gemini的OCR印象深刻，但发现它对敏感文档而言成本高昂且存在隐私问题。
- Qwen 3.5是阿里巴巴推出的一款开放权重的多模态模型，参数规模从0.8B到397B不等。
- 对于OCR而言，9B模型是最佳选择；较小的模型可能会进行概括而非提取文本。
- 在OCR之前，使用PyMuPDF将PDF页面转换为100 DPI的图像。
- 使用LM Studio和Python代码进行本地OCR；9B模型在消费级GPU上每页约需3秒。
- OpenRouter以极低成本（约每1000页0.12美元）和高速（同时处理128页，每页约10秒）托管Qwen 3.5 9B模型。
- 这种方法比使用OpenAI或Google等前沿API进行批量OCR更便宜、更快且更私密。
- 非常适合以经济实惠的方式数字化历史文档或处理大量档案。