aiknow

应用评测与监控

共 43 个AI 用户与开发者推荐的应用评测与监控。

全部 模型开发训练与微调 / 量化 14数据集 2AI 安全 / 护栏 6应用评测与监控 32开发 SDK / 工具库 19

Agents Observe

github.com

Claude Code 与多智能体的实时可观测性仪表盘,可回放会话并统计 token 用量。

开源可自部署支持 MCPClaude网页命令行
MCP 服务 · 1 处推荐

自动生成、测试并排名提示词的开源工具,用 ELO 评分找出最佳 prompt。

开源可自部署GPTClaude网页
应用评测与监控 · 1 处推荐

VoltAgent

github.com

开源 TypeScript AI Agent 框架与工程平台,支持记忆、RAG、工作流、MCP 与可观测性

开源可自部署支持 MCP有 APIGPTClaude
Agent 开发框架 · 1 处推荐

Cleanlab 的可信语言模型,为任意 LLM 输出实时打分,检测幻觉与错误回答。

有 API可自部署GPTClaude网页
应用评测与监控 · 1 处推荐

seedeep

github.com

本地只读的 Claude Code 会话观测工具,实时可视化模型调用、工具、子代理与上下文占用

开源可自部署免登录ClaudeMacWindows
应用评测与监控 · 1 处推荐

ccxray

github.com

零配置 HTTP 代理与实时仪表盘,透明记录 Claude Code、Codex 等 AI 编程 Agent 的每次 API 调用与成本。

开源可自部署ClaudeGrok命令行网页
Agent 开发框架 · 1 处推荐

Portkey

portkey.ai

面向生成式 AI 团队的全栈 LLMOps 平台,提供 AI 网关、可观测性、护栏与提示词管理。

有 APIGPTClaudeGemini网页
应用评测与监控 · 2 处推荐

Claude Code 插件,追踪 token 用量、识别浪费的上下文,节省 30-50% API 成本,全本地零配置。

开源可自部署Claude命令行
编程插件 · 1 处推荐

基于 OpenTelemetry 的 Claude Code 可观测性方案,用 Grafana 监控用量、性能与成本。

开源可自部署Claude命令行
应用评测与监控 · 1 处推荐

OrcaReplay

github.com

AI Agent 的“时间旅行”工具:录制、回放、分叉和调试任意模型的 Agent 运行。

可自部署ClaudeGPTGeminiGrokDeepSeek
Agent 开发框架 · 1 处推荐

实时监控 Claude Code 与 Codex 的本地仪表盘,追踪会话、工具调用与子代理编排。

开源可自部署支持 MCPClaude网页Mac
通用 Agent(帮你干活) · 1 处推荐

Rebyte

rebyte.ai

企业级 Agent 云端执行层,提供持久化运行、能力与边界管控、可观测与反馈优化。

有 API支持 MCP网页命令行
Agent 开发框架 · 1 处推荐

RagaAI Catalyst

github.com

面向 LLM 与 Agent 应用的可观测性、监控与评测 Python SDK,支持追踪、调试、自托管仪表盘与执行图分析。

有 API可自部署GPT网页LinuxMac
应用评测与监控 · 1 处推荐

通过 Hook 事件实时监控 Claude Code 多智能体运行的可观测性系统,含实时仪表盘。

开源可自部署Claude命令行网页
Agent 开发框架 · 1 处推荐

LangFast

langfa.st

面向产品团队的 LLM 提示词测试与评测平台,支持多模型对比、断言指标与版本管理。

付费有 APIGPTClaudeGemini网页
应用评测与监控 · 1 处推荐

LLMStack

llmstack.ai

无代码平台,用自有数据快速构建生成式 AI 应用、聊天机器人和 Agent。

多模态GPT网页
应用评测与监控 · 2 处推荐

ContextQA

contextqa.com

AI 测试自动化平台,自动生成测试、修复选择器,并验证 AI Agent 的幻觉与工具调用。

支持 MCP有 API网页
应用评测与监控 · 1 处推荐

TensorZero

tensorzero.com★ 11,714

开源 LLM 应用框架,统一网关、可观测性、优化、评测与实验,现已停止维护。

开源有 API可自部署网页
应用评测与监控 · 2 处推荐

Pezzo

docs.pezzo.ai

开源 LLMOps 平台,用于提示词管理、版本控制、可观测性与评测

开源有 API网页
应用评测与监控 · 1 处推荐