概念解說 · 2026-10-26

本地 AI 推理實測
8845HS 跑 4-bit 模型English

試下用 AMD 8845HS 跑本地模型,睇睇推理速度同電力消耗點,適合唔想靠雲端服務嘅本地企業。

重點摘要 · Key Takeaways

  • 資料完全留在本地,符合私隱要求
  • 無按月訂閱費,硬件回本後近乎免費
  • 離線可用,唔受網絡穩定性影響
  • 適合處理敏感數據或高頻重複任務

相關:工具包 · 更多文章 · 免費清單

實測環境準備

使用搭載 AMD Ryzen 7 8845HS 處理器嘅設備,安裝相關本地推理框架。

選擇經過 4-bit 量化嘅開源語言模型,確保能喺消費級硬件上流暢運行。

推理速度表現

測試模型每秒生成幾多個字(Tokens per second),評估回應快慢。

對比不同提示語長度對推理速度嘅影響,睇穩定性點樣。

電力消耗分析

記錄模型運行期間嘅處理器功耗,評估持續運作嘅電力需求。

分析長時間運作下嘅發熱情況同散熱要求。

本地部署優勢

數據留喺本地,避免敏感商業資料上傳雲端,增強私隱保障。

唔需要每次調用都繳交訂閱費,適合高頻使用嘅場景。

適合場景建議

適合需要處理內部文件、客戶查詢或自動化工作流嘅中小企。

建議搭配本地知識庫,構建專屬 AI 助理,提升辦公效率。

常見問題

8845HS 跑 4-bit 模型夠唔夠快?

適合一般辦公助理用途,回應速度能滿足日常查詢同文件處理需求。

本地部署會唔會好耗電?

功耗處喺消費級設備可接受範圍,長期運作成本比雲端訂閱更可控。

點樣開始本地 AI 部署?

上 whynoideas.dev 睇完整教學,學習安裝同配置步驟。

本地AI會唔會好慢?

對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。

設置本地模型好難嗎?

以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。

我部機跑唔到點算?

可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。

想睇實測?

免費清單每週更新本地 AI 工具對比,唔賣你 email。

Free download · 免費清單

免費 30 條粵語 WhatsApp 模板30 free Cantonese WhatsApp templates

留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.