Spark 是專為 AI 開發設計嘅硬件平台,解決開發者跑大模型時環境搭建困難嘅問題。想喺本機部署語言模型,佢可以提供穩定嘅運算支援。
每一步都會詳細講解,令你不用擔心出錯。安裝 AI 軟件其實唔複雜,只要跟著步驟就得。
部機配備 128GB 同一記憶體,可以同時開啟好多個大型應用而唔回卡,相當於一張大桌可以放好多本書。
存儲方面有 8TB 容量,可以儲存成千上萬個高解像度相片或者大型模型檔案,好似一間大倉房可以放好多箱子。
7B 模型大約 4GB,輕鬆就可以跑,好似喺手機入面放幾個小應用。
14B 模型大約 9GB,同樣適合,好似一個中型背包可以裝下好多文件。
首先喺終端機輸入 BrewInstall Alamo,安裝 Alamo 模型管理工具,好似安裝新應用程式一樣簡單。
接著輸入 BrewInstall Spark CLI,安裝 Spark 命令列介面,讓你可以透過終端機控制硬件。
要注意記憶體佔用,大型模型會消耗大量記憶體,避免同時開啟太多應用程式,好似不要喺一張小桌上面放太多東西。
存儲空間亦要預留足夠,建議保持最少百分之二十空閒容量,好似房間入面要流出行走空間。
整個過程都喺你本機進行,數據不會外傳,私隱性較高。
服務預設運行喺 Logohost 11434,即係你電腦內部嘅一個本地地址,好似你家中嘅一個私人電話號碼。
對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。
可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。
Free download · 免費清單
留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知;唔會賣你嘅 email,隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.