概念解說 · 2026-10-26
用雲端API就好似搭的士，隨叫隨到但每程都要畀錢，而且你嘅對話記錄會傳去對方伺服器。
本地跑模型就好似買架車，初期投入大，但之後每次出發成本極低，行程完全由你控制。
唔需要頂級工作站，家用級GPU已經足夠應付多數文書同簡單生成任務。
兩部家用主機加121GB統一記憶體，已經可以流暢運行大型語言模型。
雲端服務通常按Token計費，用得越多越貴，長期累積成本驚人。
本地運行一旦部署完成，後續成本主要係電費，幾乎可以忽略不計。
診所、律師行等專業機構，客戶資料極度敏感，絕對唔應該上傳到雲端。
一人公司或自由職業者，希望建立私有知識庫，保護商業機密。
如果你只用偶爾問幾個簡單問題，雲端API嘅便利性遠超本地設置嘅麻煩。
需要即時更新最新新聞或極大規模運算，雲端依然係首選。
對於日常文書、代碼生成同簡單對話，現代家用硬件嘅速度完全足夠，甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式，現在有唔少開箱即用嘅工具（如LM Studio、Ollama），幾分鐘內就可以開始運行模型。
可以嘗試量化模型（Quantized Models），佢哊體積細、記憶體需求低，喺普通電腦上都能跑動。
Free download · 免費清單
留低 email，即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知；唔會賣你嘅 email，隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.