概念解說 · 2026-10-26

本地AI唔使錢
Ollama一鍵搞掂Run Local AI on Windows with Ollama

擔心私隱或月費?只要手機有NVIDIA卡,即可本地跑大模型。今日教你用Ollama,將AI助手裝入電腦。

重點摘要 · Key Takeaways

  • 資料完全留在本地,符合私隱要求
  • 無按月訂閱費,硬件回本後近乎免費
  • 離線可用,唔受網絡穩定性影響
  • 適合處理敏感數據或高頻重複任務

相關:工具包 · 更多文章 · 免費清單

硬件要求:睇清VRAM

顯示記憶體(VRAM)係關鍵,例如RTX4070 Laptop只有8GB,好似細書桌放唔多書。

RTX4090有24GB、RTX5090有32GB,容量越大越能跑大模型。

裝機前必查顯卡記憶體,量力而為選模型,否則再勁嘅卡都係百搭。

模型選擇:由細試起

8GB VRAM可跑Qwen 3 8B,平衡速度與智能,適合日常寫作、翻譯及程式碼輔助。

若VRAM多至24GB,可視更大模型,智能更高但對硬件要求亦嚴。

新手建議由小模型開始,表現已勝舊款,覺得不夠再升級,避免反應過慢。

安裝步驟:官方下載

去olama.com/download下載官方Windows版,切勿去其他網站以免中伏。

執行安裝檔跟指示下一步,裝好後自動背景運行,無需手動開啟。

打開CMD輸入Ollama Version驗證,有版本號即成功,過程順暢無須配環境變數。

使用教學:本地API

預設在Localhost:11434開API,瀏覽器開啟該端口見JSON即服務正常。

終端輸入Ollama Run Qwen3:8B即可對話,官方標準用法無須寫Code。

本地伺服器支援OpenAI格式,其他軟件可連入,靈活性極高。

避坑指南:VRAM搶佔

Windows系統、瀏覽器及桌面合成會搶佔VRAM,標示8GB實際可用可能僅6GB。

開Chrome或Photoshop會食走大量VRAM,導致模型變慢或崩潰。

玩本地AI時關閉不必要程式,留意任務管理器GPU使用率,確保資源充足。

常見問題

Ollama需要上網嗎?

唔需要。模型下載後完全離線運行,保護私隱且無月費。

AMD顯示卡支援嗎?

支援。Ollama同時支援NVIDIA和AMD顯示卡,大部分遊戲電腦均可使用。

裝完點樣驗證成功?

打開CMD或PowerShell輸入Ollama Version,若顯示版本號即代表安裝成功。

本地AI會唔會好慢?

對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。

設置本地模型好難嗎?

以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。

我部機跑唔到點算?

可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。

想睇實測?

免費清單每週更新本地 AI 工具對比,唔賣你 email。

Free download · 免費清單

免費 30 條粵語 WhatsApp 模板30 free Cantonese WhatsApp templates

留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.