gpt-oss:OpenAI 开放权重模型与参考实现
OpenAI 的 gpt-oss-120b 与 gpt-oss-20b 开放权重模型仓库,含推理参考实现、工具与客户端示例。
gpt-oss 是 OpenAI 开放权重模型系列的仓库,包含两个模型:gpt-oss-120b(117B 参数、5.1B 激活参数,面向生产与高推理场景,可放入单张 80GB GPU 如 H100 或 MI300X)与 gpt-oss-20b(21B 参数、3.6B 激活参数,面向低延迟、本地或专用场景,可在 16GB 内存内运行)。两者均采用 MXFP4 量化 MoE 权重,使用 Apache 2.0 许可,支持可配置的推理强度(low/medium/high)、完整思维链访问、微调,以及函数调用、网页浏览、Python 代码执行和结构化输出等代理能力。模型使用 harmony 响应格式训练,必须配合该格式使用,否则无法正常工作(Transformers 的 chat template 会自动应用,也可用 openai-harmony 包)。仓库提供参考实现:torch(教学用非优化实现,需至少 4×H100)、triton(含 CUDA graphs 与缓存的优化实现)、metal(Apple Silicon),以及训练时所用的 browser 与 python 工具的参考实现、终端聊天应用和 Responses API 兼容服务器示例。README 说明 torch/triton/metal 实现主要用于教育目的,不预期用于生产;Windows 未测试,建议用 Ollama 等方案本地运行。