Free Tool · VRAM 計算機
輸入模型參數,即時計需要幾多 VRAM。支援 4-bit、8-bit、16-bit 量化計算。
| 7B Q4 | ≈ 4.4 GB | 一般 8GB 顯卡跑得起 |
| 13B Q4 | ≈ 8 GB | 要 12GB 顯卡 |
| 32B Q4 | ≈ 19 GB | 要 24GB 或 Apple 48GB 統一記憶體 |
| 70B Q4 | ≈ 40 GB | 要 48GB 或雙卡 |
| 284B Q4(V4 Flash) | ≈ 160 GB | 要 DGX Spark 呢類統一記憶體機 |
計算公式:(參數 × 位元 / 8) × 1.1 + 4 GB overhead