當你短時間內發送太多請求給 API 伺服器,伺服器會為了保護自身而拒絕新請求,回傳 429 狀態碼。
對於處理訂單的 AI Agent 來說,這會導致部分請求失敗,引致訂單遺失或處理延遲。
指數退避係指每次重試失敗後,等待時間會按倍數增加,例如由 1 秒變 2 秒、4 秒。
這樣可以避免在伺服器忙碌時持續發送請求,增加成功重連的機會。
你需要在 API 請求周圍加上一個迴圈,當偵測到 429 錯誤時,暫停一段時間後再次發送請求。
建議設定最大重試次數,防止程式陷入無限等待,確保系統資源唔會被佔滿。
當 AI Agent 批量處理客戶訂單時,若觸及 API 限制,自動重試能確保每張訂單都被正確記錄。
這對於香港電商或本地服務業來說,能有效避免因技術錯誤導致的損失。
除了重試,你還應該記錄失敗的請求詳情,方便日後人工補單或查閱記錄。
確保重試機制與你的資料庫寫入邏輯配合,避免重複創建同一張訂單。
會有一點延遲,但比請求完全失敗導致漏單要好得多,係一種妥協方案。
大部份現代 REST API 都支援,但建議查閱對方文件確認速率限制政策。
對於日常文書、代碼生成同簡單對話,現代家用硬件嘅速度完全足夠,甚至因為無網絡延遲而感覺更順暢。
以前需要寫程式,現在有唔少開箱即用嘅工具(如LM Studio、Ollama),幾分鐘內就可以開始運行模型。
可以嘗試量化模型(Quantized Models),佢哊體積細、記憶體需求低,喺普通電腦上都能跑動。
Free download · 免費清單
留低 email,即收模板清單同新片通知。Leave your email for the free template list and new-video notices.
只會用嚟寄清單同新片通知;唔會賣你嘅 email,隨時一句「退訂」即刻停。Used only to send the list and new-video notices. Your address is never sold, and one word — unsubscribe — stops it.