Tetapkan batas anggaran bulanan dan peringatan untuk inferensi model di tingkat akun, workspace, atau API Key, dengan opsi penghentian otomatis saat anggaran habis.
Ikhtisar
Manajemen anggaran memungkinkan Anda menetapkan batas dan peringatan anggaran bulanan untuk inferensi model, serta secara opsional membatasi panggilan API pay-as-you-go secara otomatis saat anggaran habis, memberikan kontrol biaya yang fleksibel di tingkat akun, ruang kerja, atau API Key.
Masuk ke konsol Model Studio. Di panel navigasi sebelah kiri, pilih Cost and Usage > Budget Management untuk membuka halaman Budget Management.
Anda dapat mengatur anggaran secara independen pada tingkat akun, workspace, dan API Key. Untuk detailnya, lihat Dimensi anggaran.
Cakupan anggaran dan siklus statistik
- Cakupan anggaran: Hanya mencakup biaya API bayar sesuai pemakaian. Tidak mencakup biaya pelatihan model, throughput prasetel (PTU), atau unit model (DTU).
- Siklus statistik: Setiap bulan kalender, misalnya September 1 00:00 hingga September 30 24:00.
Dimensi anggaran
Anda dapat mengatur anggaran secara independen pada tiga dimensi berikut:
Dimensi | Cakupan | Deskripsi |
|---|---|---|
Akun | Semua workspace dan API Key di bawah akun utama | Menetapkan total anggaran tingkat akun, menggabungkan semua biaya bayar sesuai pemakaian di bawah akun tersebut. |
Workspace | Satu workspace | Menetapkan anggaran independen untuk workspace yang ditentukan, hanya menghitung biaya bayar sesuai pemakaian dalam workspace tersebut. |
API Key | Satu API Key | Menetapkan anggaran independen untuk API Key yang ditentukan, hanya menghitung biaya bayar sesuai pemakaian yang dihasilkan oleh Key tersebut. |
Atur anggaran dan peringatan
Pada halaman Budget Management, klik Edit untuk sebuah catatan dalam tabel, atau klik tombol Set Budget di atas tabel. Di panel Set Budget and Alerts, konfigurasikan opsi berikut:
-
Target Anggaran: Menampilkan informasi dimensi, seperti akun utama (semua workspace) dan ID akun.
-
Manajemen Anggaran Bulanan: Aktifkan untuk menetapkan jumlah anggaran.
-
Anggaran Saat Ini: Saat mengedit, menampilkan jumlah anggaran yang ada; menampilkan "Belum diatur" untuk pengaturan pertama kali.
-
Anggaran Baru: Masukkan batas anggaran bulanan (dalam USD).
-
Hentikan Layanan Saat Anggaran Tercapai: Jika diaktifkan, sistem secara otomatis membatasi panggilan bayar sesuai pemakaian untuk dimensi tersebut ketika biaya mencapai batas anggaran.
PeringatanMengaktifkan "Hentikan Layanan Saat Anggaran Tercapai" tidak disarankan untuk lingkungan produksi. Setelah diaktifkan, pencapaian batas anggaran akan secara otomatis menghentikan panggilan API, yang dapat menyebabkan gangguan bisnis.
-
Ambang Batas Peringatan: Tetapkan persentase dari anggaran (seperti 80%). Notifikasi akan dikirimkan saat biaya mencapai persentase ini. Ambang batas secara otomatis menghitung jumlah peringatan berdasarkan anggaran—misalnya, dengan anggaran sebesar $10,000 dan ambang batas 80%, sistem akan menampilkan "Kirim notifikasi saat konsumsi mencapai 80% ($8,000.00) dari anggaran". Klik Atur Metode Notifikasi untuk mengonfigurasi saluran notifikasi. Notifikasi peringatan anggaran hanya mendukung penerimaan dasar (pesan di situs, SMS, dan email) serta penerimaan bot; penerimaan suara tidak didukung.
Perilaku saat anggaran tercapai
Peringatan anggaran
Ketika biaya mencapai ambang batas peringatan yang Anda konfigurasikan (seperti 80% dari anggaran), serta ketika anggaran habis (100%), sistem akan mengirimkan notifikasi.
Hentikan layanan saat anggaran tercapai
Jika Hentikan Layanan Saat Anggaran Tercapai diaktifkan, sistem secara otomatis membatasi panggilan bayar sesuai pemakaian untuk dimensi tersebut ketika biaya mencapai batas anggaran. Panggilan akan mengembalikan kesalahan 429. Contoh pesan kesalahan:
The budget configured in Budget Management has been exhausted. You will be unable to make further API calls until the budget limit is increased or reset.
Untuk informasi terperinci tentang kesalahan ini, lihat Kode kesalahan.
PeringatanSebelum mengaktifkan "Hentikan Layanan Saat Anggaran Tercapai", perhatikan batasan berikut:
- Kelebihan PTU (overflow) dan panggilan yang dihasilkan melalui aplikasi belum mendukung penghentian otomatis.
- Jika layanan telah dihentikan setelah mencapai ambang batas anggaran dan kuota gratis kemudian diberikan, status penghentian tidak akan dipulihkan secara otomatis. Anda harus menyesuaikan ambang batas anggaran secara manual untuk melanjutkan panggilan.
- Penghentian layanan memiliki penundaan tertentu, dan biaya yang timbul selama penundaan tersebut tetap akan ditagih secara normal.
FAQ
Apakah manajemen anggaran mencakup biaya pelatihan model?
Tidak. Manajemen anggaran hanya melacak biaya API bayar sesuai pemakaian, tidak termasuk biaya pelatihan model, throughput prasetel (PTU), dan unit model (DTU).
Bagaimana cara melanjutkan panggilan setelah anggaran tercapai?
Anda dapat melanjutkan panggilan dengan:
- Menaikkan batas anggaran pada halaman Budget Management.
- Menonaktifkan toggle "Hentikan Layanan Saat Anggaran Tercapai".
- Jika layanan tidak dipulihkan secara otomatis setelah kuota gratis diberikan, menyesuaikan ambang batas anggaran secara manual.
Mengapa biaya masih timbul setelah mencapai batas anggaran?
Penghentian layanan memiliki penundaan tertentu, dan biaya yang timbul selama penundaan tersebut tetap akan ditagih secara normal. Kami menyarankan untuk memantau peringatan segera saat ambang batas peringatan (seperti 80%) tercapai untuk menghindari melebihi anggaran.