Kebijakan penjadwalan menentukan urutan pekerjaan dalam antrian yang didequeue. Memilih kebijakan yang tepat dapat meningkatkan throughput pekerjaan dan memaksimalkan pemanfaatan resource komputasi Anda.
Latar Belakang
Setiap pekerjaan yang dikirim ke kuota resource di Platform for AI (PAI) memiliki nilai prioritas dari 1 hingga 9, dengan nilai lebih tinggi menunjukkan prioritas yang lebih tinggi. Ketika beberapa pekerjaan meminta resource komputasi secara bersamaan, pekerjaan tersebut ditempatkan dalam antrian dan menunggu eksekusi berdasarkan prioritasnya.
Untuk meningkatkan pemanfaatan resource komputasi, PAI menyediakan beberapa kebijakan penjadwalan di tingkat kuota resource. Kebijakan yang Anda pilih memengaruhi urutan eksekusi pekerjaan yang tertunda, tetapi tidak memengaruhi pekerjaan yang sedang berjalan.
Kebijakan penjadwalan
Saat mengonfigurasi kuota resource, Anda dapat memilih salah satu kebijakan penjadwalan berikut. Bagian-bagian berikut menjelaskan cara kerja masing-masing kebijakan.
Kebijakan FIFO
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem akan terus-menerus mencoba mendekueue-nya dan tidak melewatkan pekerjaan tersebut untuk memproses pekerjaan berikutnya.
Kebijakan round-robin
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem akan melewatkan pekerjaan tersebut dan mencoba mendekueue pekerjaan berikutnya.
Kebijakan balance
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem akan terus-menerus mencoba mendekueue-nya tanpa melewatkan pekerjaan tersebut.
Jika pekerjaan pertama menunggu lebih lama daripada periode timeout yang telah ditentukan—biasanya beberapa menit—sistem menerapkan kebijakan round-robin pada pekerjaan pertama dan kedua.
Jika pekerjaan kedua juga melebihi periode timeout, sistem memperluas penerapan kebijakan round-robin untuk mencakup tiga pekerjaan pertama. Pola ini berlanjut hingga mencakup pekerjaan-pekerjaan berikutnya dalam antrian.
Kebijakan intelligent
Saat Anda memilih kebijakan intelligent, sistem secara otomatis menerapkan strategi penjadwalan berdasarkan prioritas yang ditetapkan untuk setiap pekerjaan:
Untuk pekerjaan dengan prioritas 7 hingga 9, sistem menggunakan kebijakan FIFO.
Untuk pekerjaan dengan prioritas 1 hingga 6, sistem menggunakan kebijakan round-robin. Saat pekerjaan ini menunggu dalam antrian, prioritasnya secara bertahap dinaikkan, namun tidak dapat melebihi angka 6.
Dalam diagram sebelumnya, Item1 dan Item2 memiliki prioritas 7 atau lebih tinggi, sedangkan Item3 hingga N memiliki prioritas di bawah 7.
Topik terkait
Saat membuat kuota resource, pilih kebijakan penjadwalan berdasarkan prinsip-prinsip yang dijelaskan dalam topik ini. Untuk petunjuk detail, lihat Ikhtisar kuota resource.