顯示記憶體(VRAM)係關鍵,例如RTX4070 Laptop只有8GB,好似細書桌放唔多書。
RTX4090有24GB、RTX5090有32GB,容量越大越能跑大模型。
裝機前必查顯卡記憶體,量力而為選模型,否則再勁嘅卡都係百搭。
8GB VRAM可跑Qwen 3 8B,平衡速度與智能,適合日常寫作、翻譯及程式碼輔助。
若VRAM多至24GB,可視更大模型,智能更高但對硬件要求亦嚴。
新手建議由小模型開始,表現已勝舊款,覺得不夠再升級,避免反應過慢。
去olama.com/download下載官方Windows版,切勿去其他網站以免中伏。
執行安裝檔跟指示下一步,裝好後自動背景運行,無需手動開啟。
打開CMD輸入Ollama Version驗證,有版本號即成功,過程順暢無須配環境變數。
預設在Localhost:11434開API,瀏覽器開啟該端口見JSON即服務正常。
終端輸入Ollama Run Qwen3:8B即可對話,官方標準用法無須寫Code。
本地伺服器支援OpenAI格式,其他軟件可連入,靈活性極高。
Windows系統、瀏覽器及桌面合成會搶佔VRAM,標示8GB實際可用可能僅6GB。
開Chrome或Photoshop會食走大量VRAM,導致模型變慢或崩潰。
玩本地AI時關閉不必要程式,留意任務管理器GPU使用率,確保資源充足。
唔需要。模型下載後完全離線運行,保護私隱且無月費。
支援。Ollama同時支援NVIDIA和AMD顯示卡,大部分遊戲電腦均可使用。
打開CMD或PowerShell輸入Ollama Version,若顯示版本號即代表安裝成功。
對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。
可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。
Free download · 免費清單
留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知;唔會賣你嘅 email,隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.