PrivateGPT

github.com

面向本地模型的私有 AI 应用 API 层，提供 RAG、工具、MCP、text-to-sql 等能力，兼容任意 OpenAI 接口推理服务。

开源有 API支持 MCP可自部署本地模型命令行

被推荐 2 次

访问网站 ↗

适合做什么

适合开发者与企业搭建本地私有 AI 应用，如文档问答、Agent、工作流，注重数据隐私与自托管。

标签与属性

价格

开源

特性

有 API 支持 MCP 可自部署

支持模型

本地模型

平台

命令行 Linux Mac 网页 Windows

谁在推荐

@steven2358/awesome-generative-ai · awesome 列表出处 ↗

privateGPT - Ask questions to your documents without an internet connection, using the power of LLMs.

同类推荐

中转站源码 / 自建网关

LiteLLM

★ 60,124

开源 AI 网关，用 OpenAI 格式统一调用 100+ 大模型，支持成本追踪、限流与负载均衡

开源有 API可自部署支持 MCPGPT

github.com1 处推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

中转站源码 / 自建网关

PrivateGPT

★ 57,559

开源私有 AI 应用 API 层，为本地模型提供 RAG、工具、MCP 与结构化数据访问能力

开源有 API可自部署支持 MCP本地模型

github.com2 处推荐

中转站源码 / 自建网关

New API

★ 49,261

开源自托管 AI 网关，聚合多家大模型并统一转成 OpenAI/Claude/Gemini 兼容接口，支持路由、计费与用量管理。

开源有 API可自部署中文界面通义千问

github.com1 处推荐

中转站源码 / 自建网关

One API

★ 37,075

开源 LLM API 管理与分发系统，统一多家大模型为 OpenAI 格式，单文件 Docker 一键部署。

开源有 API可自部署中文界面GPT

github.com1 处推荐

中转站源码 / 自建网关

OmniRoute

免费 MIT 开源 AI 网关，一个端点聚合 359 家供应商、1200+ 模型，支持配额感知自动回退与压缩省 token。

开源有 API可自部署支持 MCPGPT

github.com1 处推荐