投稿 提交工具 投放合作

New API:自托管的多模型 AI 网关

大语言模型 52k(+62) 12.7k Go 2026-11-17 访问官网 ↗ 在 GitHub 打开

连接上游模型服务并对外提供统一 API,管理路由、访问、用量与成本,带 Web 控制台。

New API 是一个自托管 AI 网关,面向应用、智能体与团队:接入上游模型服务,向客户端暴露一致的 API,并统一管理路由、访问、用量与成本,可用于团队共享授权的模型访问、切换供应商而无需逐个改客户端,或运营带 Web 控制台的私有多模型服务。上游支持 OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、Vertex AI、DeepSeek、Qwen 等兼容服务。能力涵盖:OpenAI Chat/Responses、Anthropic Messages、Gemini 接口与流式响应;模型映射、渠道优先级与权重、重试、渠道亲和与多上游密钥;配额、订阅、用量日志、缓存计费与表达式定价;用户、分组、细粒度权限与 API 密钥限制,支持 OAuth/OIDC、passkey、两因素认证;用 JavaScript 插件扩展图像、视频等异步任务 API;以及多语言 Web 控制台与 playground。RelayKit 在四种文本协议间做请求、响应与流式转换,具体可用功能取决于渠道、上游模型与转换路径。提供 Docker 本地试用与 Compose(含 PostgreSQL、Redis 等)部署方式。项目强调仅用于合法授权的网关、认证、多模型管理、用量分析与私有部署场景,用户须自行取得上游密钥并遵守法规与上游条款。

Star 趋势2026-11-08 — 2026-11-17当前 Stars 52k24h +627 日 +500

52k11-0811-1111-1211-1311-1411-1511-1611-17