Topik ini menjelaskan kebijakan penjadwalan yang dapat dikonfigurasi untuk membantu mengoptimalkan pemanfaatan sumber daya saat menetapkan kuota sumber daya.
Informasi latar belakang
Setiap pekerjaan yang dikirimkan ke Kuota Sumber Daya di Platform for AI (PAI) memiliki prioritas dengan nilai berkisar antara 1 hingga 9. Angka yang lebih tinggi menunjukkan prioritas yang lebih tinggi. Jika beberapa pekerjaan dijalankan secara bersamaan di PAI, pekerjaan tersebut akan dimasukkan ke dalam antrian berdasarkan prioritas dan diproses sesuai urutan tertentu. Untuk mengoptimalkan alokasi sumber daya komputasi dalam antrian pekerjaan, PAI menyediakan beberapa kebijakan penjadwalan yang memungkinkan dequeue dan pemrosesan pekerjaan secara efisien. Anda dapat mengonfigurasi dan mengelola kebijakan penjadwalan melalui halaman Kuota Sumber Daya di konsol PAI. Perubahan pada kebijakan penjadwalan hanya berlaku untuk pekerjaan yang belum mulai berjalan setelah kuota dibuat.
Kebijakan penjadwalan
Berikut adalah deskripsi dari setiap kebijakan penjadwalan yang disediakan oleh PAI:
First In, First Out (FIFO)
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem terus mencoba mendequeue pekerjaan tersebut tanpa melewatinya.
Round Robin
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem melewati pekerjaan tersebut dan mencoba mendequeue pekerjaan lainnya dalam antrian secara berurutan.
Balance
Jika pekerjaan pertama dalam antrian tidak dapat didequeue, sistem terus mencoba mendequeue pekerjaan tersebut tanpa melewatinya.
Jika pekerjaan pertama gagal didequeue dalam durasi tertentu (beberapa menit dalam banyak kasus), sistem mencoba mendequeue pekerjaan pertama dan kedua menggunakan kebijakan Round Robin.
Jika pekerjaan kedua juga gagal didequeue dalam durasi tertentu, sistem mencoba mendequeue pekerjaan pertama, kedua, dan ketiga menggunakan kebijakan Round Robin. Sistem mendequeue pekerjaan yang tersisa dengan cara serupa.
Intelligent
Sistem mengadopsi kebijakan penjadwalan berdasarkan prioritas yang ditetapkan untuk setiap pekerjaan.
Pekerjaan dengan prioritas lebih besar dari atau sama dengan 7 dijadwalkan menggunakan kebijakan FIFO.
Pekerjaan dengan prioritas kurang dari 7 dijadwalkan menggunakan kebijakan Round Robin. Dalam hal ini, prioritas pekerjaan dalam antrian meningkat sebesar 1 berdasarkan waktu mereka dalam antrian hingga mencapai prioritas 6.
Pada gambar di atas, Item1 dan Item2 memiliki prioritas lebih besar dari atau sama dengan 7, sedangkan Item 3 hingga N memiliki prioritas kurang dari 7.
Referensi
Untuk informasi tentang cara mengonfigurasi kebijakan penjadwalan saat membuat kuota sumber daya, lihat Ikhtisar.