初學者常遇模型答非所問，明明要求嚴格JSON卻像講故事般亂寫。
這種不穩定輸出會直接令自動化腳本崩潰，因為模型本能是生成連貫文字而非遵守結構。
Llama.cpp提供完整GBNF語法文件，讓用戶自定義輸出格式。
其Server端支援OpenAI雙用API，透過標準HTTP請求即可與本地模型溝通。
不限型號，任何GGUF格式模型均可使用，從7B到70B皆適用。
即使小型模型，加上Grammar限制後輸出也會變整齊，主要靠軟體層約束而非硬體算力。
先下載編譯Llama.cpp專案，啟動伺服器時加上Grammar參數指向規則檔。
在終端機指定端口和模型路徑，確認伺服器啟動訊息顯示正常即完成準備。
向本地Host的11434端口發送Post請求，包含Prompt及Grammar設定。
Grammar複雜度會影響生成速度，建議先測簡單結構，清晰指令仍是關鍵。
會，因為模型需額外計算以檢查輸出是否符合規則，建議先用簡單結構測試。
不需要，約束主要靠軟體層面的Grammar實現，小型模型配合限制也能穩定輸出。
對於日常文書、代碼生成同簡單對話，現代家用硬件嘅速度完全足夠，甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式，現在有唔少開箱即用嘅工具（如LM Studio、Ollama），幾分鐘內就可以開始運行模型。
可以嘗試量化模型（Quantized Models），佢哊體積細、記憶體需求低，喺普通電腦上都能跑動。
Free download · 免費清單
留低 email，即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知；唔會賣你嘅 email，隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.