概念解說 · 2026-10-26

Docker 讀唔到 GPU?
3 步搞掂 NVIDIA 錯誤English

免費攞:本地 AI 起步包(硬件清單+模型選擇+電費實測)

用自己部機跑,零 API 費。留 email 即寄,唔會賣你資料。

免費下載 →

好多開發者啟動 AI 容器時發現讀唔到 GPU,通常係 nvidia-container-toolkit 配置唔正確所致。

重點摘要 · Key Takeaways

  • 資料完全留在本地,符合私隱要求
  • 無按月訂閱費,硬件回本後近乎免費
  • 離線可用,唔受網絡穩定性影響
  • 適合處理敏感數據或高頻重複任務

相關:工具包 · 更多文章 · 免費清單

檢查驅動程式安裝

首先要確認主機已經安裝正確嘅 NVIDIA 驅動程式。

執行 nvidia-smi 命令,睇下係咪可以顯示顯示卡資訊。

安裝 nvidia-container-toolkit

接著安裝 nvidia-container-toolkit,讓 Docker 能夠訪問 GPU。

安裝完後記得重啟 Docker 服務,確保設定生效。

修改 Docker daemon 配置

編輯 /etc/docker/daemon.json 檔案,添加 NVIDIA runtime 設定。

確保 JSON 語法正確,否則 Docker 將無法啟動。

測試容器能否讀取 GPU

使用 --gpus all 參數啟動容器,測試是否能偵測到顯示卡。

如果看到正確輸出,代表配置已經成功。

常見錯誤排查方法

如果依然讀唔到,檢查 Docker 日誌有無相關錯誤訊息。

同時確認用戶有足夠權限訪問 NVIDIA 設備。

常見問題

為什麼安裝完 toolkit 後依然讀唔到 GPU?

可能係忘記重啟 Docker 服務,或者 daemon.json 語法有誤導致啟動失敗。

可唔可以唔用 nvidia-container-toolkit 使用 GPU?

不可以,Docker 需要這個工具來將主機 GPU 資源安全地映射入容器內。

本地AI會唔會好慢?

對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。

設置本地模型好難嗎?

以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。

我部機跑唔到點算?

可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。

想睇實測?

免費清單每週更新本地 AI 工具對比,唔賣你 email。

Free download · 免費清單

免費 30 條粵語 WhatsApp 模板30 free Cantonese WhatsApp templates

留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.