OpenAI Harmony
9 months ago
- #harmony-format
- #OpenAI
- #gpt-oss
- OpenAI的gpt-oss模型使用harmony响应格式来处理对话结构、推理输出和函数调用
- harmony格式模仿OpenAI Responses API，支持思维链、工具调用和结构化输出的多通道处理
- 该格式是gpt-oss模型正常运行的关键，由HuggingFace、Ollama或vLLM等API自动处理
- 现提供专用于harmony格式模型的开发库，具有格式统一、高性能及Python支持特性
- 该库可通过pip或uv安装，采用Rust核心保证性能，并提供Python绑定接口
- 示例代码片段展示了如何在Python和Rust中使用该库进行对话渲染与解析
- 项目结构包含Rust与Python组件，通过测试确保不同语言实现的等效性
- 开发环境需要Rust、Python≥3.8及maturin等构建工具