Free Token Speed 巡检

john-walks-slow.github.io

用 GitHub Actions 定时测速的看板，可视化模型 API 的 TTFT、TPS 与成功率长期趋势。

免费网页

被推荐 1 次

适合做什么

适合需要长期监控多个模型 API 速度与稳定性的开发者，用来挑选稳定中转或官方接口。

价格

平台

应用评测与监控

★ 28,310

开源 AI 工程平台，支持 LLM 与 ML 模型的追踪、评估、监控与部署。

开源可自部署有 API支持 MCPGPT

github.com1 处推荐

应用评测与监控

开源 AI 工程平台，支持 LLM 应用与 Agent 的追踪、评估、监控和提示词优化。

开源有 API可自部署网页Linux

mlflow.org1 处推荐

应用评测与监控

★ 35,370

开源 LLM 工程平台，集追踪、评估、提示词管理与实验于一体，支持自托管。

开源有 API可自部署网页

langfuse.com4 处推荐

应用评测与监控

★ 25,806

开源 LLM 评测与红队测试 CLI/库，可对比多模型、扫描漏洞并集成 CI/CD。

开源有 API可自部署GPTClaude

github.com1 处推荐

应用评测与监控

★ 18,627

开源 LLM 评估框架，类似 Pytest，用 G-Eval 等指标本地评测 LLM 应用与 Agent

开源有 API可自部署命令行

github.com1 处推荐

应用评测与监控

Google 官方 Gemini 模型在线试验与开发平台，从提示词快速走向生产。

有 API多模态Gemini网页

aistudio.google.com2 处推荐