Bifrost

github.com

高性能开源 AI 网关，统一 23+ 模型供应商，支持负载均衡、故障转移与语义缓存。

开源有 API支持 MCP可自部署ClaudeGemini

被推荐 1 次

访问网站 ↗

适合做什么

适合需要统一接入多家大模型、做路由与成本控制的开发者和企业团队。

标签与属性

价格

开源

特性

有 API 支持 MCP 可自部署

支持模型

Claude Gemini GPT 本地模型

平台

命令行 Linux Mac 网页 Windows

谁在推荐

@steven2358/awesome-generative-ai · awesome 列表出处 ↗

Bifrost - An open-source LLM gateway with routing, load balancing, guardrails, and observability for 1000+ models. #opensource

同类推荐

中转站源码 / 自建网关

LiteLLM

★ 60,124

开源 AI 网关，用 OpenAI 格式统一调用 100+ 大模型，支持成本追踪、限流与负载均衡

开源有 API可自部署支持 MCPGPT

github.com1 处推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

中转站源码 / 自建网关

PrivateGPT

★ 57,559

开源私有 AI 应用 API 层，为本地模型提供 RAG、工具、MCP 与结构化数据访问能力

开源有 API可自部署支持 MCP本地模型

github.com2 处推荐

中转站源码 / 自建网关

New API

★ 49,261

开源自托管 AI 网关，聚合多家大模型并统一转成 OpenAI/Claude/Gemini 兼容接口，支持路由、计费与用量管理。

开源有 API可自部署中文界面通义千问

github.com1 处推荐

中转站源码 / 自建网关

One API

★ 37,075

开源 LLM API 管理与分发系统，统一多家大模型为 OpenAI 格式，单文件 Docker 一键部署。

开源有 API可自部署中文界面GPT

github.com1 处推荐

中转站源码 / 自建网关

OmniRoute

免费 MIT 开源 AI 网关，一个端点聚合 359 家供应商、1200+ 模型，支持配额感知自动回退与压缩省 token。

开源有 API可自部署支持 MCPGPT

github.com1 处推荐