Response Healing: Reduce JSON defects by 80%+
5 months ago
- #LLM
- #API
- #JSON
- OpenRouter推出响应修复功能，可自动修复大语言模型返回的畸形JSON响应
- Gemini 2.0 Flash的JSON缺陷减少80%，而Qwen3 235B的缺陷率降低99.8%
- JSON可靠性的小幅提升能显著减少缺陷、程序错误和技术支持工单
- 常见JSON问题包括尾部逗号、未转义的控制字符以及缺失的闭合括号
- 响应修复功能默认关闭且免费使用，仅给典型响应增加不足1毫秒的延迟
- 该功能目前无法解决模式遵循问题，也不支持流式请求
- OpenRouter致力于提供可靠的结构化输出，以减少错误并提升用户体验