memopro

github.com

面向 PyTorch 开发者的内存上限库，用无损换页让超显存模型照常运行且结果不变。

开源可自部署本地模型命令行LinuxMac

GitHub ★ 3被推荐 1 次

访问网站 ↗

适合做什么

适合显存/内存有限的开发者在小 GPU 或笔记本上做 16 位 LoRA 微调、大模型推理与大数据处理。

标签与属性

价格

特性

支持模型

平台

同类推荐

训练与微调 / 量化

LLMs-from-scratch

★ 106,204

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com2 处推荐

训练与微调 / 量化

PyTorch Lightning

★ 31,389

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

开源可自部署本地模型LinuxMac

github.com1 处推荐

训练与微调 / 量化

LLaMA-Factory

★ 75,310

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源可自部署中文界面多模态通义千问

github.com1 处推荐

训练与微调 / 量化

Llama Cookbook

★ 18,559

Meta 官方 Llama 模型实战指南，涵盖推理、微调、RAG 与端到端用例。

开源可自部署多模态本地模型网页

github.com1 处推荐

训练与微调 / 量化

GPT-SoVITS

★ 62,509

开源少样本语音克隆与TTS项目，5秒零样本、1分钟微调即可复刻音色，支持多语言。

开源可自部署本地模型网页Windows

github.com2 处推荐

训练与微调 / 量化

nanochat

★ 58,475

Karpathy 出品的极简 LLM 训练框架，单卡即可低成本训练 GPT-2 级模型并对话。

开源可自部署本地模型Linux命令行

github.com2 处推荐