概念解說 · 2026-10-26
直接 copy 落 WhatsApp 用，留 email 即寄。唔會賣你資料。
免費下載 →想在家用 AI 卻怕伺服器月費？Mac mini M4 小巧又強勁，實測證明佢能順暢跑起 Llama 3.2 3B 模型。
Apple 嘅 M4 芯片雖然有強大算力，但跑大語言模型關鍵唔係數字。
真正決定推理速度嘅係統一記憶體頻寬，因為數據都要靠記憶體運送。
如果頻寬不足，就算算力再高都要等數據傳到，所以唔好被算力數字嚇親。
Llama 3.2 有個 3B 版本，即係 30 億參數，適合邊緣設備使用。
實際速度取決於量化級別同系統記憶體頻寬，兩者互相影響。
量化級別數值越小，佔用空間越少，處理速度亦會越快。
安裝好之後，服務已經喺後台運行，你只需要知道服務位置。
通常在瀏覽器輸入 localhost:11434，或者在 Terminal 直接輸入問題。
這個端口係預設值，只要網絡連通，無需複雜配置即可隨時溝通。
雖然 M4 速度快，但模型速度依然受限於記憶體頻寬。
使用 8 位量化速度會比 4 位慢一點，但輸出質量會好些。
這係一個取捨問題，你需要根據實際需求去設定參數。
如果同時開太多程序，記憶體佔用太高會影響 AI 運作速度。
建議保持系統清爽，確保 Mac mini M4 能專心處理 AI 任務。
對於個人助理用途絕對夠用，但深度開發可能仍需升級硬件。
對於個人助理等輕量使用絕對夠用，但如果你想做深度開發，可能需要升級硬件。
只需在瀏覽器或支援嘅客戶端輸入預設端口地址 localhost:11434，或者在 Terminal 直接輸入問題即可。
對於日常文書、代碼生成同簡單對話，現代家用硬件嘅速度完全足夠，甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式，現在有唔少開箱即用嘅工具（如LM Studio、Ollama），幾分鐘內就可以開始運行模型。
可以嘗試量化模型（Quantized Models），佢哊體積細、記憶體需求低，喺普通電腦上都能跑動。
Free download · 免費清單
留低 email，即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知；唔會賣你嘅 email，隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.