GPT-Load

github.com

自托管 AI 网关，统一接入多渠道多凭据，支持密钥与订阅账号调度、容错、日志与用量统计

开源有 API可自部署ClaudeGeminiGPT

GitHub ★ 7,044被推荐 1 次

访问网站 ↗

适合做什么

适合需要自建 API 网关、聚合多家模型渠道并做负载均衡与容错的开发者或团队使用

标签与属性

价格

特性

支持模型

平台

同类推荐

中转站源码 / 自建网关

LiteLLM

★ 60,124

开源 AI 网关，用 OpenAI 格式统一调用 100+ 大模型，支持成本追踪、限流与负载均衡

开源有 API可自部署支持 MCPGPT

github.com1 处推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

中转站源码 / 自建网关

PrivateGPT

★ 57,559

开源私有 AI 应用 API 层，为本地模型提供 RAG、工具、MCP 与结构化数据访问能力

开源有 API可自部署支持 MCP本地模型

github.com2 处推荐

中转站源码 / 自建网关

New API

★ 49,261

开源自托管 AI 网关，聚合多家大模型并统一转成 OpenAI/Claude/Gemini 兼容接口，支持路由、计费与用量管理。

开源有 API可自部署中文界面通义千问

github.com1 处推荐

中转站源码 / 自建网关

One API

★ 37,075

开源 LLM API 管理与分发系统，统一多家大模型为 OpenAI 格式，单文件 Docker 一键部署。

开源有 API可自部署中文界面GPT

github.com1 处推荐

中转站源码 / 自建网关

OmniRoute

免费 MIT 开源 AI 网关，一个端点聚合 359 家供应商、1200+ 模型，支持配额感知自动回退与压缩省 token。

开源有 API可自部署支持 MCPGPT

github.com1 处推荐