為帳號、業務空間或 API Key 設定模型推論的月度預算與預警,支援達預算後自動停止按量呼叫。
功能概述
预算管理允許您設定月度模型推理的預算上限與預警,並可在預算用盡後自動限制模型推理服務的按量呼叫,靈活管控帳號、業務空間或 API Key 的費用。
登入百煉控制台,在左側導覽列選擇费用用量 > 预算管理,進入预算管理頁面。
支援按帳號、業務空間、API Key 三個粒度分別設定預算,詳見預算維度。
預算範圍與統計週期
- 預算範圍:僅包含 API 按呼叫量付費產生的費用,不含模型訓練、預置吞吐(PTU)、模型單元(DTU)等費用。
- 統計週期:每個自然月,如 9 月 1 日 00:00 至 9 月 30 日 24:00。
預算維度
支援以下三個維度獨立設定預算:
維度 | 適用範圍 | 說明 |
|---|---|---|
帳號 | 整個主帳號下全部業務空間和 API Key | 設定帳號級總預算,彙總該帳號下全部按呼叫量付費費用。 |
業務空間 | 單一業務空間 | 為指定業務空間設定獨立預算,僅統計該空間內的按呼叫量付費費用。 |
API Key | 單一 API Key | 為指定 API Key 設定獨立預算,僅統計該 Key 產生的按呼叫量付費費用。 |
設定預算與預警
在预算管理頁面,點擊表格中某筆記錄的编辑,或點擊表格上方的设置预算按鈕,在彈出的设置预算与告警面板中設定以下選項:
-
預算物件:展示預算對應的維度資訊,如主帳號(全部業務空間)及帳號 ID。
-
月度预算管理:開啟後可設定預算金額。
-
目前預算:編輯時顯示已有的預算額度;首次設定時顯示「未設定」。
-
新預算:輸入當月預算上限。
-
達到預算後立即停止:開啟後,當費用達到預算額度時,系統自動限制該維度的按量呼叫。
警告生產環境不建議開啟「達到預算後立即停止」。開啟後達到預算額度將自動停止 API 呼叫,可能導致業務中斷。
-
告警閾值:設定達到預算額度的百分比(如 80%),當費用達到該比例時傳送通知。閾值會根據預算金額自動計算告警金額,例如預算 ¥10,000、閾值 80% 時顯示「當消費達預算的 80%(¥8,000.00)時傳送通知」。可點擊設定通知方式來設定通知管道。
達到預算後的行為
預算預警
當費用達到您設定的預警閾值(如預算額度的 80%)以及預算用盡(100%)時,系統傳送通知提醒。
達預算即停
若開啟了達到預算後立即停止,當費用達到預算額度時,系統自動限制該維度的按量呼叫,呼叫將傳回 429 錯誤。錯誤訊息範例:
預算管理中設定的預算已用盡。在提高或重設預算上限之前,您將無法繼續進行 API 呼叫。
關於該錯誤的詳細說明,請參閱錯誤碼。
警告開啟「達到預算後立即停止」前請注意以下限制:
- 服務停止目前僅支援華北2(北京)和新加坡地域,其他地域的呼叫達到預算後不會停止。
- PTU 溢出部分和通過應用產生的呼叫暫不支援自動停止。
- 若已達預算閾值觸發停機後,又發放了免費額度,停機不會自動恢復,需手動調整預算閾值後方可恢復呼叫。
- 服務停止存在一定延遲,延遲時段內產生的費用仍將正常收取。
常見問題
預算管理是否包含模型訓練費用?
不包含。预算管理僅統計 API 按呼叫量付費產生的費用,不含模型训练、預置吞吐(PTU)、模型單元(DTU)等費用。
達到預算後如何恢復呼叫?
可透過以下方式恢復:
- 在预算管理頁面提高預算額度。
- 关闭「達到預算後立即停止」開關。
- 若因發放免費額度後未自動恢復,需手動調整預算閾值。
為什麼達到預算額度後仍在產生費用?
服務停止存在一定延遲,延遲時段內產生的費用仍將正常收取。建議在預警閾值(如 80%)時及時關注並處理,避免超出預算。