LLM VRAM Calculator
devtoollab.com
免费在线计算本地大模型显存需求,基于真实GGUF文件大小与llama.cpp的KV缓存算法,支持任意上下文长度。
免费免登录本地模型网页
被推荐 1 次
适合做什么
适合本地部署大模型的用户,在下载前判断模型能否装进自己的GPU或Mac,并规划硬件采购。
标签与属性
同类推荐
本地硬件 / 显存计算
本地硬件 / 显存计算
本地硬件 / 显存计算
本地硬件 / 显存计算免费在线计算本地大模型显存需求,基于真实GGUF文件大小与llama.cpp的KV缓存算法,支持任意上下文长度。
适合本地部署大模型的用户,在下载前判断模型能否装进自己的GPU或Mac,并规划硬件采购。
本地硬件 / 显存计算
本地硬件 / 显存计算
本地硬件 / 显存计算
本地硬件 / 显存计算