aiknow
Transformers

Transformers

github.com

Hugging Face 出品的模型定义框架,统一文本、视觉、音频与多模态模型的推理与训练接口。

开源多模态可自部署本地模型通义千问Linux
被推荐 2 次

适合做什么

适合 AI 开发者、研究人员加载、微调与部署主流开源模型,快速搭建推理或训练流程。

标签与属性

谁在推荐

@vince-lam/awesome-local-llms · awesome 列表出处 ↗
15 transformers 166,466 +634 (+0.4%) Infrastructure 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.

同类推荐

本地部署 / 运行

vLLM

★ 93,170

高吞吐、省显存的开源 LLM 推理与服务引擎,支持 PagedAttention 与 OpenAI 兼容 API。

开源有 API可自部署DeepSeek通义千问
github.com1 处推荐
Agent 开发框架

LangChain

★ 147,438

开源 Agent 工程框架,用可互操作组件与集成快速搭建 LLM 应用与智能体。

开源可自部署有 APIGPTClaude
github.com1 处推荐
开发 SDK / 工具库

Hugging Face 出品的扩散模型工具箱,支持图像、视频、音频生成与训练。

开源可自部署多模态本地模型Linux
github.com1 处推荐
应用评测与监控

开源 AI 工程平台,支持 LLM 与 ML 模型的追踪、评估、监控与部署。

开源可自部署有 API支持 MCPGPT
github.com1 处推荐
开发 SDK / 工具库

分布式 AI 计算引擎,用统一框架把 Python 与 AI 应用从单机扩展到集群。

开源可自部署有 APILinuxMac
github.com1 处推荐
训练与微调 / 量化

基于 PyTorch 的深度学习训练框架,自动处理分布式、混合精度等工程细节,几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac
github.com1 处推荐