YATT:基于 Megatron 的 RL 训练库
腾讯开源的强化学习训练库,构建于 Megatron、vLLM 与 SGLang 之上,支持语言模型与 VQA 的 RL 训练及 LoRA。
内部代号 gcore,定位为可扩展、简单、高效且可用于生产环境的训练库。主要特性包括用 Megatron 做语言模型与 VQA 的强化学习训练,用 vLLM 和 SGLang 做 rollout 生成,支持高效生成式奖励的 RL 训练以及 Megatron LoRA。文档可用 Sphinx 构建,也可直接阅读 docs 目录下的 rst 与 md,docstring 参考 numpy 风格;代码格式化用 yapf(Facebook 风格、列宽 100)与 isort,通过 pre-commit 钩子执行。README 称在内部 tlinux 上测试过,Ubuntu 也可搭建类似环境,文档 docker 部分提供了参考 Dockerfile。入门建议从文档 examples 部分的 Math SFT 与 Math GRPO 开始。