Terapkan Kuota GPU dan Prioritas Job di Workspace PAI - Platform For AI

Administrator ruang kerja dapat mengonfigurasi aturan penggunaan resource untuk modul dalam ruang kerja guna menyesuaikan berbagai skenario bisnis. Aturan tersebut mencakup batas penggunaan, prioritas, kebijakan auto-shutdown, dan kebijakan pengendalian biaya.

Catatan

Pengguna non-anggota ruang kerja adalah pengguna yang belum ditambahkan ke ruang kerja oleh administrator, tetapi dapat menggunakan resource dan mengirimkan pekerjaan karena telah diberikan izin RAM yang diperlukan oleh Akun Alibaba Cloud. Anda dapat menetapkan batasan terpisah untuk pengguna tersebut.

Penggunaan resource

Anda dapat mengonfigurasi cakupan kuota resource untuk ruang kerja saat ini, sehingga menentukan modul dan peran mana yang dapat menggunakan resource tersebut serta membatasi jumlah resource yang dapat mereka konsumsi. Jika kontrol detail halus tidak diperlukan, Anda tidak perlu melakukan konfigurasi, dan resource dapat digunakan secara bebas di seluruh modul Produk dalam ruang kerja.

Modul penggunaan resource: Membatasi kuota resource hanya untuk modul tertentu, seperti DSW dan DLC.
Peran penggunaan resource: Membatasi penggunaan kuota resource ini hanya untuk peran tertentu.
Jumlah penggunaan resource: Membatasi jumlah maksimum GPU, core CPU, dan memori dari kuota resource ini yang dapat digunakan oleh peran berbeda saat mereka mengirimkan pekerjaan dalam rentang prioritas tertentu.

Penting
Jika seorang pengguna tunduk pada beberapa batasan, maka batasan paling ketat yang berlaku. Misalnya, untuk kuota resource tertentu, Pengguna A tunduk pada batasan administrator (100 GPU untuk prioritas 1–7) dan batasan Anggota A (10 GPU untuk prioritas 7–9). Saat Pengguna A mengirimkan pekerjaan dengan prioritas 7, mereka dapat menggunakan maksimal 10 GPU dari kuota resource ini.
Templat spesifikasi resource: Jika templat spesifikasi resource ditetapkan untuk suatu kuota resource, pengguna harus memilih templat tersebut untuk menggunakan resource saat membuat instans DSW atau Pekerjaan DLC.

DLC

Waktu proses maksimum: Menetapkan waktu proses maksimum untuk suatu pekerjaan. Pekerjaan akan dihentikan secara otomatis jika melebihi waktu proses tersebut.
Prioritas pekerjaan: Membatasi prioritas maksimum pekerjaan yang dapat dikirimkan oleh peran atau anggota berbeda.
Izinkan sumber daya publik: Jika opsi ini dinonaktifkan, pengguna tidak dapat membuat Pekerjaan DLC pay-as-you-go di ruang kerja saat ini. Hal ini membantu mencegah biaya tak terduga.
Waktu tunggu pekerjaan maksimum: Menetapkan timeout untuk waktu tunggu, antrian, dan persiapan lingkungan pekerjaan terkait kuota resource. Notifikasi akan dikirim jika terjadi timeout.

Catatan
Untuk menerima notifikasi timeout, Anda juga harus mengonfigurasi aturan notifikasi untuk Pekerjaan DLC di halaman Event Notification Configuration. Jika tidak, notifikasi tidak akan dikirim hanya berdasarkan pengaturan ini.

DSW

Kebijakan auto-shutdown:
- Kebijakan shutdown: Memicu auto-shutdown berdasarkan waktu proses instans atau penggunaan resource (seperti waktu idle atau pemanfaatan CPU, memori, dan GPU) untuk menghemat biaya.
- Kebijakan pengecualian: Menetapkan instans DSW yang dikecualikan dari auto-shutdown berdasarkan prioritas dan nama instans tersebut.
Prioritas instans: Membatasi prioritas maksimum instans yang dapat dibuat oleh peran atau anggota berbeda.
Izinkan sumber daya publik: Jika opsi ini dinonaktifkan, pengguna tidak dapat membuat instans DSW pay-as-you-go di ruang kerja saat ini. Hal ini membantu mencegah biaya tak terduga.
Waktu tunggu instans maksimum: Menetapkan aturan timeout untuk penggunaan kuota resource. Instans akan dihentikan jika waktu antriannya atau waktu persiapan lingkungannya melebihi ambang batas yang dikonfigurasi.