训练与微调 / 量化
共 45 个AI 用户与开发者推荐的训练与微调 / 量化。
从零用 PyTorch 实现类 ChatGPT 大模型的教程代码,配套《Build a Large Language Model (From Scratch)》一书。
基于 PyTorch 的深度学习训练框架,自动处理分布式、混合精度等工程细节,几乎无需改代码即可扩展到多卡多机。
Hugging Face 出品的参数高效微调库,支持 LoRA 等方法,大幅降低大模型微调成本。
统一高效微调 100+ 大模型与多模态模型的开源框架,支持零代码 CLI 与 Web UI。
统一高效微调 100+ 大模型与多模态模型的开源框架,支持零代码 CLI 与 Web UI。
Hugging Face 出品的开源后训练库,支持 SFT、DPO、GRPO 等微调与强化学习。
Lightning AI 开源的大模型工具库,从零实现 20+ LLM,支持预训练、微调与部署。
Meta 官方 Llama 模型实战指南,涵盖推理、微调、RAG 与端到端用例。
魔搭社区开源的大模型与多模态模型微调部署框架,支持600+模型全流程训练。
开源少样本语音克隆与TTS项目,5秒零样本、1分钟微调即可复刻音色,支持多语言。
Karpathy 出品的极简 LLM 训练框架,单卡即可低成本训练 GPT-2 级模型并对话。
NVIDIA 开源语音 AI 框架,支持语音识别、语音合成与语音大模型训练部署。
微软 DeepSpeed 官方示例库,涵盖训练、微调、推理、压缩与基准测试的端到端代码。
字节 Seed 开源的大模型强化学习后训练框架,支持 GRPO/PPO 等算法,高效灵活。
Lightricks 开源的音视频联合生成模型,含推理与 LoRA 训练代码,可本地部署。
基于 Ray 与 vLLM 的高性能开源 RLHF 框架,支持 PPO、GRPO 等算法与多轮 Agent 训练。
Gemini platform (Vertex AI)
cloud.google.comGoogle Cloud 的企业级 AI 平台,用于构建、部署、治理和优化 AI Agent 与模型。
智谱开源文生视频与图生视频模型,含 CogVideoX 系列,支持本地推理与微调。
本地运行与微调大模型和扩散模型的开源工具,显存占用低、训练速度快,支持 GGUF、MLX 等格式。
vLLM 官方模型压缩库,支持量化、KV Cache 压缩,产出可直接部署的压缩模型
从零用 PyTorch 实现并训练 64M 超小语言模型的开源项目,2 小时 3 块钱即可复现全流程。