Groq

groq.com

基于自研 LPU 硬件的超快推理云平台，提供开源大模型的高速 API 服务。

有 API网页

被推荐 1 次

适合做什么

适合需要低延迟、高吞吐调用开源大模型的开发者，用于实时对话、Agent 等场景。

特性

平台

@steven2358/awesome-generative-ai · awesome 列表出处 ↗

Groq - A cloud inference API for running open-source LLMs, powered by custom LPU hardware.

推理云 / GPU 算力

云端运行与微调开源模型的 API 平台，一行代码即可调用图像、视频、语言等模型。

有 API多模态GPT网页

replicate.com1 处推荐

推理云 / GPU 算力

Cloudflare 推出的无服务器 GPU 推理平台，可在全球网络运行 50+ 开源模型。

免费+付费有 API网页

developers.cloudflare.com1 处推荐

推理云 / GPU 算力

面向开发者的生成式媒体推理平台，一个 API 调用 1000+ 图像、视频、音频与 3D 模型，并提供无服务器 GPU 部署与训练。

有 API多模态网页

fal.ai1 处推荐

免费 API / 公益站

志愿者共享算力的众包分布式集群，免费生成图像与文本，开源社区运营。

开源有 API可自部署免登录本地模型

stablehorde.net2 处推荐

推理云 / GPU 算力

面向企业的开源模型训练与推理平台，支持微调、强化学习和高速部署专用模型。

有 APIGLM / 智谱网页

fireworks.ai1 处推荐

推理云 / GPU 算力

全栈 AI 云平台，提供开源模型推理、微调与 GPU 集群算力服务

付费有 API通义千问网页

together.ai1 处推荐