Saat beberapa job bersaing untuk kuota sumber daya yang sama, kebijakan penjadwalan menentukan job mana yang didequeue terlebih dahulu dan apakah job yang diblokir menyebabkan seluruh antrian tertahan. Platform for AI (PAI) menyediakan empat kebijakan penjadwalan sehingga Anda dapat menyesuaikan perilaku antrian sesuai dengan workload—mulai dari pengurutan ketat untuk pipeline dependen hingga pendekatan berbasis throughput untuk job batch campuran.
Setiap job yang dikirimkan ke kuota sumber daya memiliki prioritas dari 1 hingga 9, dengan angka yang lebih tinggi menunjukkan prioritas lebih tinggi. Konfigurasikan dan kelola kebijakan penjadwalan pada halaman Resource Quota di Konsol PAI.
Catatan: Mengubah kebijakan penjadwalan setelah kuota sumber daya dibuat hanya memengaruhi job yang belum mulai berjalan. Job yang sudah dalam status Running tidak terpengaruh.
Kebijakan penjadwalan
FIFO (First In, First Out)
Jika job di posisi head-of-queue tidak dapat didequeue, penjadwal terus mencoba tanpa melewatinya. Semua job berikutnya dalam antrian menunggu hingga job yang diblokir berhasil didequeue.
Kapan digunakan: Workload yang memerlukan urutan ketat dan tidak boleh ada job yang dilewati—misalnya, pipeline pelatihan dependen di mana job berikutnya bergantung pada output job sebelumnya.
Round Robin
Jika job di posisi head-of-queue tidak dapat didequeue, penjadwal melewatinya dan mencoba mendequeue job berikutnya secara berurutan.
Kapan digunakan: Workload campuran di mana throughput lebih penting daripada urutan. Job yang diblokir di awal antrian tidak menghentikan job lain yang siap dijalankan.
Balance
Balance dimulai dengan perilaku FIFO dan secara bertahap memperluas jendela penjadwalan menjadi Round Robin saat job melebihi timeout-nya:
Fase 1 — Retry FIFO: Jika job di posisi head-of-queue tidak dapat didequeue, penjadwal terus mencoba tanpa melewatinya.
Fase 2 — Perluasan ke Round Robin: Jika job belum didequeue setelah melewati timeout (biasanya beberapa menit), penjadwal menerapkan Round Robin pada dua job pertama dalam antrian.
Fase 3 — Perluasan bertahap: Jika job kedua juga mengalami timeout, penjadwal memperluas Round Robin ke tiga job pertama. Jendela terus diperluas dengan cara yang sama.
Kapan digunakan: Antrian tujuan umum dengan campuran job panjang dan pendek. Balance melindungi job berprioritas tinggi agar tidak langsung dilewati, sekaligus mencegah satu job yang diblokir menghentikan seluruh antrian secara permanen.
Intelligent
Intelligent menerapkan kebijakan berbeda berdasarkan prioritas masing-masing job:
Prioritas >= 7: Dijadwalkan menggunakan FIFO—job berprioritas tinggi tidak pernah dilewati.
Prioritas < 7: Dijadwalkan menggunakan Round Robin. Prioritas setiap job yang menunggu meningkat sebesar 1 berdasarkan waktu antreannya hingga mencapai 6, sehingga mencegah starvation permanen.
Pada gambar di atas, Item1 dan Item2 memiliki prioritas >= 7, sedangkan Item 3 hingga N memiliki prioritas < 7.
Kapan digunakan: Antrian dengan perbedaan jelas antara job kritis dan job batch. Tetapkan prioritas >= 7 untuk job produksi atau job yang sensitif terhadap waktu, dan prioritas lebih rendah untuk workload batch atau pengembangan.
Pilih kebijakan penjadwalan
| Kebijakan | Head-of-queue diblokir | Pekerjaan berprioritas rendah | Paling cocok untuk |
|---|---|---|---|
| FIFO | Dicoba ulang tanpa dilewati; antrian terblokir | Menunggu di belakang job yang diblokir | Pipeline dependen; urutan ketat diperlukan |
| Round Robin | Dilewati; job berikutnya dicoba secara berurutan | Jalankan sebelum pekerjaan terblokir | Job independen campuran; maksimalkan throughput |
| Balance | Dicoba ulang terlebih dahulu; Round Robin diperluas setelah timeout | Dibuka blokirnya setelah timeout | Antrian tujuan umum; kombinasi keadilan dan throughput |
| Intelligent | Prioritas >= 7: dicoba ulang (FIFO); Prioritas < 7: dilewati (Round Robin) | Prioritas meningkat seiring waktu antrean, hingga maksimal 6 | Campuran tingkat kekritisan; pisahkan job produksi dari job batch |
Konfigurasikan kebijakan penjadwalan
Untuk mengonfigurasi kebijakan penjadwalan saat membuat kuota sumber daya, lihat Ikhtisar.