适合做什么
适合想在本地或私有云部署大模型的开发者，用于终端对话、构建应用或保护数据隐私。
标签与属性
谁在推荐
Ollama - Get up and running with large language models locally.
Ollama - Load and run large LLMs locally to use in your terminal or build your apps.
12 ollama 181,358 +458 (+0.3%) Infrastructure Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.
同类推荐
高吞吐、省显存的开源 LLM 推理与服务引擎，支持 PagedAttention 与 OpenAI 兼容 API。
开源有 API可自部署DeepSeek通义千问
github.com1 处推荐
Hugging Face 官方 JS 库，让 Transformers 模型直接在浏览器里运行，无需服务器。
开源多模态可自部署本地模型网页
github.com1 处推荐
开源本地 AI 引擎，无需 GPU 即可在任意硬件上运行 LLM、视觉、语音、图像、视频模型，兼容 OpenAI API。
开源有 API可自部署支持 MCP多模态
github.com1 处推荐