
LLM VRAM Calculator
apxml.com
在线计算运行大模型所需显存、KV Cache 与生成速度,支持 Nvidia 与 Apple Silicon。
免费免登录本地模型网页
被推荐 1 次
适合做什么
适合想在本地跑大模型的用户,先算显存够不够、能跑多大模型、速度多快。
标签与属性
同类推荐
本地硬件 / 显存计算
本地硬件 / 显存计算
本地硬件 / 显存计算用 llama.cpp 实测多种 NVIDIA GPU 与 Apple Silicon 跑 LLaMA 模型的推理速度,含显存占用与 tokens/s 对比。
可自部署本地模型LinuxMacWindows
github.com1 处推荐