zero-to-sglang

github.com

Datawhale 与 SGLang 官方合作的 LLM 推理教程，从零手写 mini-sglang 并深入 SGLang 源码。

开源中文界面网页

被推荐 1 次

访问网站 ↗

适合做什么

适合想深入理解 LLM 推理引擎、学习 SGLang 源码并参与开源的开发者。

标签与属性

价格

开源

特性

中文界面

平台

网页

谁在推荐

@vince-lam/awesome-local-llms · awesome 列表出处 ↗

2 zero-to-sglang 1,209 +330 (+37.5%) Official SGLang x Datawhale course on LLM inference: understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. Available in English and Chinese.

同类推荐

训练与微调 / 量化

LLMs-from-scratch

从零用 PyTorch 实现类 ChatGPT 大模型的教程代码，配套《Build a Large Language Model (From Scratch)》一书。

开源可自部署本地模型LinuxMac

github.com1 处推荐

教程与课程

Generative AI for Beginners

★ 120,998

微软出品的 21 课生成式 AI 入门教程，含代码示例，多语言翻译，适合零基础学习。

开源中文界面GPT网页

github.com1 处推荐

教程与课程

OpenAI Cookbook

OpenAI 官方 API 示例与指南仓库，含大量 Python 代码，覆盖常见任务与最佳实践。

开源有 APIGPT网页

github.com3 处推荐

教程与课程

Supervised Machine Learning: Regression and Classification

吴恩达与 DeepLearning.AI 出品的机器学习入门课程，用 Python 讲解回归与分类。

免费网页

coursera.org1 处推荐

教程与课程

fast.ai

免费深度学习课程与开源工具库，让编程者轻松入门AI。

开源网页

fast.ai1 处推荐

教程与课程

LLM Course

★ 83,289

开源的大语言模型学习课程，含路线图与 Colab 实战笔记本，覆盖原理到应用部署。

开源网页

github.com1 处推荐