投稿 提交工具 投放合作

slime:连接 Megatron 与 SGLang 的 RL 后训练框架

智能体与MCP 8.9k(+2) 1.4k Python 2026-11-22 在 GitHub 打开

面向 LLM 强化学习扩展的训练框架,把 Megatron 训练、SGLang rollout 与自定义数据生成接入同一路径。

slime 是一个面向 RL 扩展的 LLM 训练框架,提供两项核心能力:通过连接 Megatron 与 SGLang 支持多种模式的高效训练,以及通过自定义数据生成接口和基于服务的引擎实现灵活的数据生成。设计上让训练与数据生成互相支撑,Megatron 训练、SGLang rollout、自定义数据生成、奖励计算、验证器反馈和环境交互都走同一条训练/rollout/Data Buffer 路径。架构分三块:training(Megatron)从 Data Buffer 读数据并在训练后同步参数;rollout(SGLang + router)生成含奖励/验证器输出的新数据并写回 Data Buffer;data buffer 负责 prompt 初始化、自定义数据与 rollout 生成方法的桥接。默认负载传输用 Ray object-store,也可选 straw 走共享 JuiceFS 存储。Megatron 参数直接使用,SGLang 参数加 --sglang- 前缀;支持 SGLang YAML 服务组配置、PD 分离、增量权重同步和外部 rollout 引擎。README 称其为 GLM-5.3-Flash、GLM-5.3 等 GLM 系列模型背后的 RL 框架,并支持 Qwen、DeepSeek、Llama 3 等模型,提供多智能体、search-r1、全异步 rollout、coding agent RL 等示例。

Star 趋势2026-11-10 — 2026-11-22当前 Stars 8.9k24h +27 日 +30

8.8k8.9k11-1011-1211-1411-1611-1811-2111-22