torchtune

github.com

PyTorch 原生 LLM 后训练库，提供 SFT、DPO、PPO、GRPO 等可改训练配方与 YAML 配置。

开源可自部署本地模型通义千问命令行Linux

GitHub ★ 5,821被推荐 1 次

访问网站 ↗

适合做什么

适合用 PyTorch 微调 Llama、Qwen 等开源大模型的开发者与研究者，做 SFT、偏好对齐和量化训练。

标签与属性

价格

开源

特性

可自部署

支持模型

本地模型通义千问

平台

命令行 Linux Mac Windows

同类推荐

训练与微调 / 量化

LLMs-from-scratch

★ 106,204

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com2 处推荐

训练与微调 / 量化

PyTorch Lightning

★ 31,389

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

PEFT

★ 21,870

Hugging Face 出品的参数高效微调库，支持 LoRA 等方法，大幅降低大模型微调成本。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

DeepSpeed

★ 43,285

微软开源的深度学习优化库，主打 ZeRO 显存优化与分布式训练/推理加速。

开源可自部署本地模型Linux

github.com1 处推荐

训练与微调 / 量化

LLaMA-Factory

★ 75,310

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面多模态通义千问

github.com1 处推荐

训练与微调 / 量化

LLaMA-Factory

★ 75,860

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面通义千问DeepSeek

github.com1 处推荐