概念解說 · 2026-10-26

免費攞:WhatsApp 催約・追覆・續會 30 條粵語模板

直接 copy 落 WhatsApp 用,留 email 即寄。唔會賣你資料。

免費下載 →
頻寬決定速度
記憶體決定上限Mac Studio M5 Ultra Local AI Guide

想喺本地跑巨型 AI 模型?關鍵唔係核數,係記憶體頻寬同容量。一文睇清 M5 系列規格同實戰部署步驟。

重點摘要 · Key Takeaways

  • 資料完全留在本地,符合私隱要求
  • 無按月訂閱費,硬件回本後近乎免費
  • 離線可用,唔受網絡穩定性影響
  • 適合處理敏感數據或高頻重複任務

相關:工具包 · 更多文章 · 免費清單

頻寬係高速公路

M5 Max 有 40 核 GPU 同每秒 460GB 頻寬,而 M5 Ultra 則有 80 核 GPU 同每秒 1.2TB 頻寬。

頻寬就好似高速公路行車線,線越多數據流動越快,避免模型因等數據而變慢。

512GB 記憶體優勢

M5 Ultra 最高配 512GB 統一記憶體,可載入接近 500GB 量化模型,適合巨型混合專家模型。

相比之下 M5 Max 最高只有 128GB,對頂級模型限制明顯,追求極致必須選 Ultra。

簡單安裝步驟

使用 Ollama 或 LM Studio 支援 GGUF 格式,下載對應量化檔案後直接拖入即可準備運行。

過程類似下載遊戲安裝包,只要網絡夠快,選好模型就能馬上開始使用。

自定義工作流程

Ollama 預設服務位為 localhost:11434,LM Studio 預設端口為 1234,可透過瀏覽器或程式呼叫。

這等於開了一個窗口讓問題送入模型處理,不受軟件介面限制,可完全自定義工作流程。

避開規格誤區

混合專家模型適合大記憶體但頻寬相對小的機器,選錯模型會因頻寬不足導致反應遲鈍。

開發者應直接上 M5 Ultra,因其頻寬同記憶體上限能應付未來需求,一次到位節省等待時間。

常見問題

點解要睇頻寬多過核數?

頻寬決定數據流動速度,頻寬不足會令模型排隊等數據,導致反應變慢。

M5 Max 夠唔夠跑大模型?

M5 Max 最高 128GB 記憶體,對頂級巨型模型有限制,建議追求極致選 M5 Ultra。

本地AI會唔會好慢?

對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。

設置本地模型好難嗎?

以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。

我部機跑唔到點算?

可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。

想睇實測?

免費清單每週更新本地 AI 工具對比,唔賣你 email。