开发 SDK / 工具库

Hugging Face 出品的模型定义框架，统一文本、视觉、音频与多模态模型的推理与训练接口。

高吞吐、省显存的开源 LLM 推理与服务引擎，支持 PagedAttention 与 OpenAI 兼容 API。

开源 Agent 工程框架，用可互操作组件与集成快速搭建 LLM 应用与智能体。

Hugging Face 出品的扩散模型工具箱，支持图像、视频、音频生成与训练。

开源 AI 工程平台，支持 LLM 与 ML 模型的追踪、评估、监控与部署。

分布式 AI 计算引擎，用统一框架把 Python 与 AI 应用从单机扩展到集群。

基于 PyTorch 的深度学习训练框架，自动处理分布式、混合精度等工程细节，几乎无需改代码即可扩展到多卡多机。

统一高效微调 100+ 大模型与多模态模型的开源框架，支持零代码 CLI 与 Web UI。

开源 Agent 工程平台，提供框架与工具，帮助开发者快速构建、编排和部署 LLM 应用与智能体。

Intel 开源 AI 推理优化与部署工具包，支持多框架模型在 CPU/GPU/NPU 上高效运行。

LangChain 出品的低层 Agent 编排框架，支持有状态、长时运行与持久化执行。

Python 编写的 MCP 服务端与客户端开发框架，函数即工具，自动生成 schema 与校验。

Hugging Face 官方 JS 库，让 Transformers 模型直接在浏览器里运行，无需服务器。

斯坦福开源的编程式 LLM 框架，用 Python 代码替代提示词，自动优化提示与权重。

OpenAI 官方轻量级多智能体工作流开发框架，支持工具、护栏、交接与追踪。

NVIDIA 开源语音 AI 框架，支持语音识别、语音合成与语音大模型训练部署。

LangChain 官方 Python 集成文档，统一接入各类模型、向量库与工具。

基于 PyTorch 的开源语音工具包，支持语音识别、说话人识别、语音增强等 20 多种任务。

Simon Willison 开发的命令行工具与 Python 库，可在终端调用各家大模型并本地运行。

多语言 NLP 开源库，支持分词、词性标注、命名实体识别、句法语义分析等 10 项联合任务，覆盖 130 种语言。

百度飞桨开源的语音工具包，涵盖流式语音识别、语音合成、声纹识别与语音翻译，曾获 NAACL2022 最佳 Demo 奖。

面向 JVM 的开源 Java LLM 应用开发库，统一 API 接入 20+ 模型与 30+ 向量库，支持工具调用、MCP、Agent 与 RAG。

Python 框架，为 LLM 应用添加输入输出护栏，检测风险并生成结构化数据。

Python 的 AI Agent 开发框架，类型安全、模型可换，支持语音、图像与嵌入。