TensorZero

tensorzero.com

开源 LLM 应用框架，统一网关、可观测性、优化、评测与实验，现已停止维护。

开源有 API可自部署网页

GitHub ★ 11,714被推荐 2 次

访问网站 ↗GitHub ↗

适合做什么

适合开发者构建生产级 LLM 应用，做网关路由、监控、评测与实验，但项目已停更。

标签与属性

价格

开源

特性

有 API 可自部署

平台

网页

谁在推荐

@mahseema/awesome-ai-tools · awesome 列表出处 ↗

TensorZero - An open-source framework for building production-grade LLM applications. It unifies an LLM gateway, observability, optimization, evaluations, and experimentation.

同类推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 与 ML 模型的追踪、评估、监控与部署。

开源可自部署有 API支持 MCPGPT

github.com1 处推荐

应用评测与监控

MLflow

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

应用评测与监控

Langfuse

★ 35,370

开源 LLM 工程平台，集追踪、评估、提示词管理与实验于一体，支持自托管。

开源有 API可自部署网页

langfuse.com4 处推荐

应用评测与监控

promptfoo

开源 LLM 评测与红队测试 CLI/库，可对比多模型、扫描漏洞并集成 CI/CD。

开源有 API可自部署GPTClaude

github.com1 处推荐

应用评测与监控

DeepEval

★ 18,627

开源 LLM 评估框架，类似 Pytest，用 G-Eval 等指标本地评测 LLM 应用与 Agent

开源有 API可自部署命令行

github.com1 处推荐

应用评测与监控

Google AI Studio

Google 官方 Gemini 模型在线试验与开发平台，从提示词快速走向生产。

有 API多模态Gemini网页

aistudio.google.com1 处推荐