GGUF My Repo

huggingface.co

Hugging Face Space 工具，输入模型 ID 即可自动量化并生成 GGUF 仓库

本地模型网页

被推荐 1 次

适合做什么

适合想把 Hugging Face 模型转成 GGUF 用于本地部署的用户，无需本地环境

支持模型

平台

训练与微调 / 量化

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

★ 75,310

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面多模态通义千问

github.com1 处推荐

训练与微调 / 量化

Meta 官方 Llama 模型实战指南，涵盖推理、微调、RAG 与端到端用例。

开源可自部署多模态本地模型网页

github.com1 处推荐

训练与微调 / 量化

开源少样本语音克隆与TTS项目，5秒零样本、1分钟微调即可复刻音色，支持多语言。

开源可自部署本地模型网页Windows

github.com1 处推荐

训练与微调 / 量化

Karpathy 出品的极简 LLM 训练框架，单卡即可低成本训练 GPT-2 级模型并对话。

开源可自部署本地模型Linux命令行

github.com2 处推荐