Manifest - An open-source LLM router that routes agent requests to the most cost-effective model, with usage limits and model benchmarking. #opensource

同类推荐

中转站源码 / 自建网关

LiteLLM

★ 60,124

开源 AI 网关，用 OpenAI 格式统一调用 100+ 大模型，支持成本追踪、限流与负载均衡

开源有 API可自部署支持 MCPGPT

github.com1 处推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

中转站源码 / 自建网关

PrivateGPT

★ 57,559

开源私有 AI 应用 API 层，为本地模型提供 RAG、工具、MCP 与结构化数据访问能力

开源有 API可自部署支持 MCP本地模型

github.com2 处推荐

中转站源码 / 自建网关

New API

★ 49,261

开源自托管 AI 网关，聚合多家大模型并统一转成 OpenAI/Claude/Gemini 兼容接口，支持路由、计费与用量管理。

开源有 API可自部署中文界面通义千问

github.com1 处推荐

中转站源码 / 自建网关

One API

★ 37,075

开源 LLM API 管理与分发系统，统一多家大模型为 OpenAI 格式，单文件 Docker 一键部署。

开源有 API可自部署中文界面GPT

github.com1 处推荐

中转站源码 / 自建网关

OmniRoute

免费 MIT 开源 AI 网关，一个端点聚合 359 家供应商、1200+ 模型，支持配额感知自动回退与压缩省 token。

开源有 API可自部署支持 MCPGPT

github.com1 处推荐