DwarfStar 4 (ds4)

dwarfstar.sh

antirez 用 C 写的本地推理引擎，支持 DeepSeek V4/V4.1、Qwen3.8、GLM 5.x，含 CLI、本地 API 与 Agent。

开源有 API多模态可自部署DeepSeekGLM / 智谱

被推荐 1 次

访问网站 ↗

适合做什么

适合有大显存 Mac / NVIDIA / AMD 机器、想在本地跑 DeepSeek、Qwen、GLM 并接编程 Agent 的开发者。

标签与属性

价格

开源

特性

有 API 多模态可自部署

支持模型

DeepSeek GLM / 智谱本地模型通义千问

平台

命令行 Linux Mac

同类推荐

本地部署 / 运行

llama.cpp

★ 130,655

纯 C/C++ 实现的 LLM 推理引擎，支持本地与云端多硬件高效运行大模型。

开源可自部署有 API多模态通义千问

github.com3 处推荐

本地部署 / 运行

vLLM

★ 93,170

高吞吐、省显存的开源 LLM 推理与服务引擎，支持 PagedAttention 与 OpenAI 兼容 API。

开源有 API可自部署DeepSeek通义千问

github.com1 处推荐

本地部署 / 运行

Ollama

★ 182,177

最流行的开源大模型本地运行工具，一条命令即可下载并运行 Llama、Qwen、DeepSeek 等模型。

开源可自部署有 API通义千问DeepSeek

ollama.com3 处推荐

本地部署 / 运行

whisper.cpp

★ 54,217

OpenAI Whisper 语音识别模型的 C/C++ 高性能移植版，无依赖、可离线本地运行

开源可自部署本地模型MacWindows

github.com2 处推荐

聊天客户端

textgen

★ 47,726

开源本地大模型桌面应用，支持文本、视觉、工具调用，兼容 OpenAI/Anthropic API，完全离线隐私。

开源可自部署有 API支持 MCP多模态

github.com1 处推荐

本地部署 / 运行

Transformers.js

★ 16,339

Hugging Face 官方 JS 库，让 Transformers 模型直接在浏览器里运行，无需服务器。

开源多模态可自部署本地模型网页

github.com1 处推荐