概念解說 · 2026-10-26

本地 AI 跑法
由入門到進階Local Large Language Model Setup Guide

免費攞:本地 AI 起步包(硬件清單+模型選擇+電費實測)

用自己部機跑,零 API 費。留 email 即寄,唔會賣你資料。

免費下載 →

本地跑 AI 模型唔再係難事,只要有啱嘅配置同步驟,就可以喺自己電腦內直接對話。

重點摘要 · Key Takeaways

  • 資料完全留在本地,符合私隱要求
  • 無按月訂閱費,硬件回本後近乎免費
  • 離線可用,唔受網絡穩定性影響
  • 適合處理敏感數據或高頻重複任務

相關:工具包 · 更多文章 · 免費清單

電腦配置詳解

這個配置有 24GB 顯示器記憶體,相當於可以塞落很多張高清相片。

系統記憶體有 128GB,即是等於一張大桌可以放很多本書。

可以跑咩模型

可以跑 70B 模型,有 700 一個參數的大腦,相當於一個超級智能助理。

可以跑 32B 模型,有 321 個參數,夠日常使用。

安裝步驟

第一步是安裝 Alima 軟件,係本地運行大模型嘅基礎工具。

第二步係啟動 Alima 服務,讓電腦準備好接收指令。

本地對話方法

服務位置係 Local Host 11434,即是你電腦內部嘅一個專用入口。

可以透過該位置發送指令畀模型,模型會喺該端口回覆你嘅問題。

真實使用瓶頸

真實瓶頸係系統記憶體會成為限制,因為模型需要塞入 128GB 記憶體。

處理器 24 核心雖然強大,但大模型運算仍然需要時間。

常見問題

本地跑 AI 模型需要連接外部網絡嗎?

唔需要,可以透過 Local Host 端口喺本地直接同 AI 對話。

安裝步驟可以跳過嗎?

不可以,每個步驟都要按次序做,唔好跳過。

本地AI會唔會好慢?

對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。

設置本地模型好難嗎?

以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。

我部機跑唔到點算?

可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。

想睇實測?

免費清單每週更新本地 AI 工具對比,唔賣你 email。

Free download · 免費清單

免費 30 條粵語 WhatsApp 模板30 free Cantonese WhatsApp templates

留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.