概念解說 · 2026-10-26
用自己部機跑,零 API 費。留 email 即寄,唔會賣你資料。
免費下載 →本地部署 AI 時,Docker 容器經常識唔到 GPU,出現 CUDA 錯誤代碼 3。呢篇教你由驅動檢查到容器配置,逐步修復問題,確保 AI 應用可以正確調用本地顯卡資源。
先檢查本地機有冇安裝正確嘅 NVIDIA 驅動,係 Docker 容器識別 GPU 嘅基礎。
執行 nvidia-smi 指令,確認可以看到顯卡資訊同驅動版本,如果冇反應先要重新安裝驅動。
Docker 默認唔可以直達宿主機 GPU,需要安裝 NVIDIA Container Toolkit 呢個橋接組件。
安裝後重啟 Docker 服務,讓容器引擎知道如何將 GPU 資源映射進去容器內。
啟動容器要加上 --gpus all 參數,話 Docker 把所有可用顯卡分配畀容器。
如果只想用一部卡,可以指定 --gpus '
進入容器後再執行 nvidia-smi,確認容器內可以識別到宿主機嘅顯卡。
可以再跑個簡單嘅 CUDA 版本檢查,確保驅動同容器內嘅 CUDA 工具鏈版本唔會衝突。
錯誤代碼 3 通常係因為驅動版本同容器內 CUDA 版本不相容,或者容器冇正確掛載 GPU 設備。
檢查 /dev/nvidia* 設備檔有冇正確映射進容器,需要時重新啟動容器同 Docker 服務。
建議使用官方 NVIDIA CUDA 基礎鏡像,減少環境配置嘅不確定性。
生產環境可以用 docker-compose 統一管理 GPU 參數,方便團隊共同維護 AI 部署流程。
最常見係因為冇安裝 NVIDIA Container Toolkit,或者啟動容器時冇加上 --gpus 參數,導致 GPU 資源冇映射進容器內。
通常代表 GPU 初始化失敗,大多係驅動版本過舊、容器內 CUDA 版本不相容,或者 Docker 權限沒有正確訪問顯卡設備引起。
對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。
可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。
Free download · 免費清單
留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知;唔會賣你嘅 email,隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.