投稿 提交工具 投放合作

litellm:统一调用 100+ LLM 的 AI 网关

大语言模型 63.6k(+83) 13.4k Python 2026-11-21 访问官网 ↗ 在 GitHub 打开

litellm 提供 Python SDK 与自托管 AI 网关,以 OpenAI 格式统一调用 100+ 模型提供商,附带虚拟密钥、开销追踪与负载均衡。

litellm 是一个开源 AI 网关,提供统一接口以 OpenAI 格式调用 100+ LLM 提供商(OpenAI、Anthropic、Gemini、Bedrock、Azure 等),既可作为 Python SDK 直接集成,也可部署为自托管的代理服务器(AI Gateway)供团队集中使用。支持的端点包括 /chat/completions、/responses、/embeddings、/images、/audio、/batches、/rerank、/a2a、/messages 等。网关内置虚拟密钥、开销追踪、护栏、负载均衡和管理面板,并提供自动路由(按提示选择模型)、A2A 协议调用外部 Agent、MCP 网关(将 MCP 服务器接入任意 LLM)等能力;还可让 Claude Code、Codex、OpenCode、pi 或 Deep Agents 等 Agent 框架的模型调用全部经由网关转发。独立发行的 litellm-core 提供同一 import litellm API 的 Python SDK,不含可选扩展、CLI 入口和内置面板,与完整 litellm 包拥有重叠的 Python 文件,同一环境只应安装其中一个。README 中还包含各提供商对不同端点支持情况的对照表。

Star 趋势2026-11-10 — 2026-11-20当前 Stars 64k24h +837 日 +393

63k64k11-1011-1111-1211-1311-1411-1511-1611-1711-1811-20