开发 SDK / 工具库

Model Context Protocol 官方 Python SDK，用于快速构建 MCP 服务器与客户端，支持多种传输方式。

谷歌开源、代码优先的 Python 框架，用于构建、评估和部署多智能体系统。

面向 Agent 与生成式 UI 的前端技术栈，支持 React、Angular、移动端及 Slack 等平台。

基于 WebGPU 的浏览器内 LLM 推理引擎，无需服务器即可在网页本地运行大模型，兼容 OpenAI API。

高性能大模型与多模态模型推理服务框架，支持 Agent、RL 与大规模部署。

开源 LLM 应用评测工具包，提供客观指标、自动生成测试集与生产数据反馈闭环。

微软开源的 AI 量化投资平台，覆盖数据处理、模型训练到回测的完整机器学习流水线。

Browserbase 出品的浏览器 Agent SDK，用 observe/act/extract 三步让 AI 稳定操作网页并抽取结构化数据。

用 Python 快速构建生产级对话式 AI 应用的开发框架，支持工具调用与流式输出。

开源推理库，通过分层流式加载让 70B 大模型在单张 4GB 显卡上运行，无需量化或蒸馏。

命令行工具与 Python 库，可调用 OpenAI、Claude、Gemini、Qwen 等远程及本地大模型

低代码声明式深度学习框架，用 YAML 配置即可微调 LLM、训练多模态与表格模型。

为 AI Agent 提供 1000+ 预认证工具包、会话与沙箱，让智能体真正执行操作。

用自然语言对话分析数据的 Python 库，支持 SQL、CSV、Parquet，结合 LLM 与 RAG。

基于 OpenAI Whisper 的近实时语音转写服务，支持麦克风与音频文件，可自建服务器。

开源端侧实时语音工具包，低延迟语音转文字、意图识别与语音合成，无需联网和密钥

基于 WebGPU 的浏览器内大模型推理引擎，无需服务器即可在网页本地运行 LLM。

Google 开源的 Python 库，用 LLM 从非结构化文本中抽取结构化信息，支持精确溯源与可视化。

ICML 2024 论文官方实现：多个 LLM 实例通过多轮辩论提升事实性与推理能力。

极简可扩展的 AI Agent 工具包，含统一 LLM API、Agent 循环、TUI 和编程 CLI。

一个 YAML 配置即可微调 LLM 的命令行工具，层流技术让 8B 模型在 4GB 笔记本 GPU 上训练。

基于 Rust 引擎的 Python 流处理 ETL 框架，支持实时分析与 LLM/RAG 管道。

全栈 MCP 开发框架，可构建带交互视图的 MCP 应用与服务器，内置 Inspector 调试。

开源 AI Agent 安全 SDK，可拦截提示注入、脱敏 PII 与密钥、扫描仓库风险并做红队测试。