Free Tool · VRAM 計算機

跑 LLM 要幾多顯示卡記憶體?

輸入模型參數,即時計需要幾多 VRAM。支援 4-bit、8-bit、16-bit 量化計算。


常見模型參考

7B Q4≈ 4.4 GB一般 8GB 顯卡跑得起
13B Q4≈ 8 GB要 12GB 顯卡
32B Q4≈ 19 GB要 24GB 或 Apple 48GB 統一記憶體
70B Q4≈ 40 GB要 48GB 或雙卡
284B Q4(V4 Flash)≈ 160 GB要 DGX Spark 呢類統一記憶體機

計算公式:(參數 × 位元 / 8) × 1.1 + 4 GB overhead