Soup

github.com

一个 YAML 配置即可微调 LLM 的命令行工具，层流技术让 8B 模型在 4GB 笔记本 GPU 上训练。

开源可自部署本地模型命令行LinuxMac

被推荐 1 次

访问网站 ↗

适合做什么

适合想在本地低显存 GPU 上微调大模型的开发者，无需 SSH 和复杂配置。

标签与属性

价格

开源

特性

可自部署

支持模型

本地模型

平台

命令行 Linux Mac Windows

谁在推荐

@vince-lam/awesome-local-llms · awesome 列表出处 ↗

1 Soup 6,939 +537 (+8.4%) Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

同类推荐

训练与微调 / 量化

LLMs-from-scratch

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

PyTorch Lightning

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

LLaMA-Factory

★ 75,310

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面多模态通义千问

github.com1 处推荐

训练与微调 / 量化

Llama Cookbook

Meta 官方 Llama 模型实战指南，涵盖推理、微调、RAG 与端到端用例。

开源可自部署多模态本地模型网页

github.com1 处推荐

训练与微调 / 量化

GPT-SoVITS

开源少样本语音克隆与TTS项目，5秒零样本、1分钟微调即可复刻音色，支持多语言。

开源可自部署本地模型网页Windows

github.com1 处推荐

训练与微调 / 量化

nanochat

Karpathy 出品的极简 LLM 训练框架，单卡即可低成本训练 GPT-2 级模型并对话。

开源可自部署本地模型Linux命令行

github.com2 处推荐