适合做什么
适合做推荐系统、CTR 预估的算法工程师与研究者,用于大规模模型训练加速。
标签与属性
同类推荐
高吞吐、省显存的开源 LLM 推理与服务引擎,支持 PagedAttention 与 OpenAI 兼容 API。
开源有 API可自部署DeepSeek通义千问
github.com1 处推荐
Vercel 出品的 TypeScript AI 开发工具包,统一接入多家模型,快速构建 AI 应用与 Agent。
开源有 APIClaudeGeminiGPT
github.com1 处推荐