从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
开源项目 39
vLLM:大模型推理与服务库开源项目用 Rust 之外的 Python 实现的 LLM 推理服务库,提供高吞吐服务、OpenAI 兼容 API 与多种硬件支持。查看
nano-vllm:从零实现的轻量 vLLM开源项目约 1200 行 Python 从零实现的轻量级 vLLM,提供离线推理与前缀缓存、张量并行、CUDA graph 等优化。查看
YATT:基于 Megatron 的 RL 训练库开源项目腾讯开源的强化学习训练库,构建于 Megatron、vLLM 与 SGLang 之上,支持语言模型与 VQA 的 RL 训练及 LoRA。查看
MiniCPM-OCR:文档解析与OCR模型系列开源项目面向中英文文档与PDF解析的OCR模型系列,含1.0解析模型与Jev质量评分模型,支持vLLM等部署与pip SDK。查看
DeepSeek-OCR:视觉-文本压缩OCR模型开源项目从LLM视角研究视觉编码器的OCR模型,支持多种原生分辨率与动态分辨率模式,可用vLLM推理。查看
GLM-OCR:复杂文档理解的多模态OCR模型开源项目基于 GLM-V 编解码架构的多模态 OCR 模型,配合 SDK 与推理工具链,支持云端 API 或 vLLM、SGLang、Ollama 自托管部署。查看
SpikingBrain-7B:脉冲脑启发大模型的实现与权重开源项目SpikingBrain-7B 是融合混合注意力、MoE 与脉冲编码的大模型仓库,提供 HuggingFace、vLLM 与量化版本的完整实现和权重。查看
ROLL:大模型强化学习分布式训练库开源项目面向大语言模型的强化学习扩展库,基于 Ray 多角色分布式架构,集成 Megatron-Core、SGLang 与 vLLM。查看
dInfer:扩散语言模型推理框架开源项目面向 dLLM 的高效可扩展推理框架,将推理拆分为模型、扩散迭代管理器、解码器与 KV 缓存管理器四个组件,支持批量推理。查看
UniScientist:科研数据合成与智能体研究模型开源项目包含 UniScientist-30B-A3B 模型与科研问题合成、智能体研究循环、报告聚合的推理代码。查看
HunyuanImage-3.0:原生多模态图像生成模型开源项目腾讯开源的统一自回归多模态模型,支持文生图、图生图与带推理的指令式图像生成。查看
Mooncake:以KVCache为中心的LLM推理服务架构开源项目面向大模型推理服务的KVCache中心化分离式架构,提供分布式KV缓存池与跨节点数据传输引擎。查看
DFlash:块扩散投机解码草稿模型开源项目面向投机解码的轻量块扩散模型,支持多款开源基座的并行草稿生成与多种推理后端。查看
VoxCPM:无离散token的文本转语音模型开源项目基于扩散自回归架构的开源TTS系统,支持30种语言、声音设计、可控声音克隆与48kHz输出。查看
HunyuanOCR-1.5:轻量端到端 OCR 视觉语言模型开源项目统一文档解析、文本检测识别、信息抽取与图文翻译的轻量 OCR VLM,含训练与推理栈。查看
gpuworks:轻量级 GPU 与模型服务平台开源项目40 MB 的 GPU 管理与 MaaS 平台,把自有服务器、云实例与容器组成统一集群,一键部署模型并以 OpenAI 兼容端点对外服务。查看
JoyAI-VL-Interaction:实时视频语言交互模型与系统开源项目8B 视觉语言交互模型,配套训练配方、数据与实时流式部署系统。查看
Dolphin:文档图像解析模型开源项目基于单一VLM的两阶段文档解析模型,将页面解析为结构化JSON与Markdown,支持页面级与元素级解析。查看
Qwen-Image-Layered:图像分层分解模型开源项目将图像分解为多个RGBA图层的模型,每层可独立编辑,支持变层数与递归分解,附Gradio部署脚本。查看
Qwen3-Omni:多模态全模态基础模型开源项目Qwen3-Omni 是端到端多语言全模态基础模型,处理文本、图像、音频、视频并流式输出文本与语音。查看