一个公式搞清楚运行不同的大模型需要多少 GPU VRAM？

技术专业 · 08-19

一个非常标准的计算公式，了解 LLM 和 GPU VRAM 换算规则，下次发新模型就知道本机能不能跑了。