Unsloth

github.com

本地运行与微调大模型和扩散模型的开源工具，显存占用低、训练速度快，支持 GGUF、MLX 等格式。

开源有 API支持 MCP多模态可自部署DeepSeek

被推荐 2 次

访问网站 ↗

适合做什么

适合想在本地跑模型、做 LoRA 微调或搭建私有 RAG 的开发者与研究者。

标签与属性

价格

开源

特性

有 API 支持 MCP 多模态可自部署

支持模型

DeepSeek GLM / 智谱 Kimi 本地模型通义千问

平台

命令行 Linux Mac 网页 Windows

谁在推荐

@steven2358/awesome-generative-ai · awesome 列表出处 ↗

Unsloth - A Python library for fine-tuning LLMs #opensource.

同类推荐

训练与微调 / 量化

LLMs-from-scratch

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

PyTorch Lightning

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

LLaMA-Factory

★ 75,310

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面多模态通义千问

github.com1 处推荐

训练与微调 / 量化

Llama Cookbook

Meta 官方 Llama 模型实战指南，涵盖推理、微调、RAG 与端到端用例。

开源可自部署多模态本地模型网页

github.com1 处推荐

训练与微调 / 量化

GPT-SoVITS

开源少样本语音克隆与TTS项目，5秒零样本、1分钟微调即可复刻音色，支持多语言。

开源可自部署本地模型网页Windows

github.com1 处推荐

训练与微调 / 量化

nanochat

Karpathy 出品的极简 LLM 训练框架，单卡即可低成本训练 GPT-2 级模型并对话。

开源可自部署本地模型Linux命令行

github.com2 处推荐