LiteLLM
github.com
开源 AI 网关，用 OpenAI 格式统一调用 100+ 大模型，支持成本追踪、限流与负载均衡
开源有 API支持 MCP可自部署ClaudeDeepSeek
GitHub ★ 60,124被推荐 2 次
适合做什么
适合开发者与团队自建统一 LLM 网关，做多模型路由、密钥管理、成本统计与限流
标签与属性
同类推荐
开源私有 AI 应用 API 层，为本地模型提供 RAG、工具、MCP 与结构化数据访问能力
开源有 API可自部署支持 MCP本地模型
github.com2 处推荐
开源自托管 AI 网关，聚合多家大模型并统一转成 OpenAI/Claude/Gemini 兼容接口，支持路由、计费与用量管理。
开源有 API可自部署中文界面通义千问
github.com1 处推荐
开源 LLM API 管理与分发系统，统一多家大模型为 OpenAI 格式，单文件 Docker 一键部署。
开源有 API可自部署中文界面GPT
github.com1 处推荐
免费 MIT 开源 AI 网关，一个端点聚合 359 家供应商、1200+ 模型，支持配额感知自动回退与压缩省 token。
开源有 API可自部署支持 MCPGPT
github.com1 处推荐
把各类 CLI 编程工具账号包装成 OpenAI/Gemini/Claude 兼容 API 的代理服务，可自建中转。
开源有 API可自部署ClaudeGemini
github.com1 处推荐