模型开发

百度飞桨开源的语音工具包，涵盖流式语音识别、语音合成、声纹识别与语音翻译，曾获 NAACL2022 最佳 Demo 奖。

NVIDIA 开源的可编程护栏工具包，为 LLM 对话应用添加安全、合规与可控对话流程。

开源 AI 渗透测试工具，自主 AI 黑客代理动态运行代码、发现并验证漏洞，还能自动修复。

面向 JVM 的开源 Java LLM 应用开发库，统一 API 接入 20+ 模型与 30+ 向量库，支持工具调用、MCP、Agent 与 RAG。

Comet 开源的 LLM 可观测与评测平台，支持 Agent 追踪、自动评估和生产监控，可自托管。

Python 框架，为 LLM 应用添加输入输出护栏，检测风险并生成结构化数据。

本地运行与微调大模型和扩散模型的开源工具，显存占用低、训练速度快，支持 GGUF、MLX 等格式。

伯克利开源项目，让大模型准确调用 API 与工具，并维护函数调用排行榜 BFCL。

vLLM 官方模型压缩库，支持量化、KV Cache 压缩，产出可直接部署的压缩模型

从零用 PyTorch 实现并训练 64M 超小语言模型的开源项目，2 小时 3 块钱即可复现全流程。

开源 LLM 应用评测工具包，提供客观指标、自动生成测试集与生产数据反馈闭环。

微软开源的 AI 量化投资平台，覆盖数据处理、模型训练到回测的完整机器学习流水线。

用 Python 快速构建生产级对话式 AI 应用的开发框架，支持工具调用与流式输出。

开源本地 AI 工作台，可在个人电脑上运行和微调大模型，支持文本、图像、视频与音频。

英国 AI 安全研究所开源的大模型评测框架，内置 200+ 评测，支持提示工程、工具调用与多轮对话。

低代码声明式深度学习框架，用 YAML 配置即可微调 LLM、训练多模态与表格模型。

Comet 推出的开源 LLM 可观测与评测平台，支持 Agent 全链路追踪、自动评测与生产监控。

实时检测 AI 回答中的幻觉、错误上下文与知识缺口，并给出可信度评分。

开源 LLM 可观测性平台，一行代码即可监控、评估和实验 AI 应用，并提供 AI 网关。

ICML 2024 论文官方实现：多个 LLM 实例通过多轮辩论提升事实性与推理能力。

Scale AI 的企业级生成式 AI 平台，连接企业数据、部署智能体并持续优化。

开源 AI Agent 可观测性平台，基于 OpenTelemetry 提供追踪、评测、护栏与成本监控

开源 AI 开发环境，C++ 高性能流水线引擎，可视化编排 LLM 工作流，支持多模型与向量库。

开源云原生 LLMOps 平台，支持提示词设计、版本管理、可观测性与协作交付。