PAI-EAS menyediakan dua jenis kelompok sumber daya: kelompok sumber daya khusus dan kelompok sumber daya virtual. Kelompok sumber daya khusus memungkinkan Anda membeli dan mengelola sumber daya komputasi eksklusif. Kelompok sumber daya virtual menggabungkan berbagai jenis sumber daya—Sumber daya publik, Kuota sumber daya, dan sumber daya EAS khusus—untuk mendukung penerapan layanan campuran.
Kelompok sumber daya khusus
Jenis sumber daya
Sumber daya khusus tersedia dalam dua metode penagihan: subscription (prabayar) dan pay-as-you-go (pascabayar).
Type | Billing method | Resource group management | Supported resource types |
Prepaid resource | Subscription | Purchase machines, renew prepaid machines, release postpaid machines, and delete resource groups. For more information, see Manage machines in a dedicated resource group. | Go to the EAS Dedicated Machine Subscription page. |
Postpaid resource | Pay-as-you-go | Go to the EAS Dedicated Machine Pay-as-you-go page. |
Sumber daya khusus pascabayar akan langsung ditagih setelah pembelian, terlepas dari apakah sumber daya tersebut digunakan untuk menerapkan layanan atau tidak. Segera lepas mesin pascabayar yang tidak digunakan untuk menghindari biaya tambahan.
Buat kelompok sumber daya khusus
Buka halaman AI Computing Resources > Resource Pools dan pilih tab EAS Inference Resources.
Pada tab Dedicated Resource Group, klik Create Resource Group dan pilih salah satu opsi berikut:
Create Resource Group: Hanya membuat kelompok sumber daya. Anda kemudian dapat membeli mesin dari halaman detail kelompok sumber daya.
Create Resource (Subscription) atau Create Resource (Pay by Usage): Mengarahkan Anda ke halaman pembelian tempat Anda membeli mesin sekaligus membuat kelompok sumber daya.
Pada halaman pembelian, konfigurasikan parameter berikut.
Parameter
Description
Billing Method
Pilih Subscription atau Pay-as-you-go.
Region and Zone
Pilih Wilayah dan zona untuk kelompok sumber daya.
Node Type
Tipe instans GPU dan CPU yang tersedia. Untuk daftar lengkap sumber daya yang tersedia, lihat halaman EAS Dedicated Machine Subscription atau EAS Dedicated Machine Pay-as-you-go.
CatatanTipe instans yang tersedia bervariasi tergantung wilayah.
System Disk
Setiap mesin mencakup penyimpanan sistem disk sebesar 200 GB tanpa biaya tambahan. Anda dapat menambah kapasitas hingga maksimal 2.000 GB (minimum: 200 GB). Untuk rincian penagihan kapasitas tambahan, lihat EAS billing.
CatatanSemua instans layanan berbagi penyimpanan sistem disk. Ketika ruang sistem disk hampir penuh, sistem akan menghapus instans layanan untuk membebaskan ruang, dimulai dari instans yang menggunakan penyimpanan terbanyak. Untuk membaca atau menulis ke direktori disk lokal selama waktu proses instans, lihat Storage mounts.
buy_type
Pilih new atau upgrade.
Jika Anda memilih upgrade, konfigurasikan resource_id.
resource_id
Pilih ID kelompok sumber daya yang telah dibuat dari daftar.
order_num
Nilai valid: 1 hingga 9999.
Duration
Periode langganan: 1 bulan, 2 bulan, 3 bulan, 6 bulan, 1 tahun, atau durasi kustom (hanya untuk subscription).
Auto-Renewal
Aktifkan atau nonaktifkan perpanjangan otomatis saat langganan berakhir (hanya untuk subscription).
Setelah pembayaran berhasil, sistem akan secara otomatis mengalokasikan sumber daya. Anda dapat melihat atau mengganti nama kelompok sumber daya pada tab Resource Group.
Catatan(Hanya untuk subscription) Jika pembuatan kelompok sumber daya gagal karena sumber daya tidak mencukupi di wilayah yang dipilih, sistem akan secara otomatis membuat pesanan pengembalian dana dan pembayaran dikembalikan melalui saluran pembayaran asal.
Kelola mesin dalam kelompok sumber daya khusus
Purchase machines |
|
Renew a machine (Hanya untuk mesin subscription) | Perpanjang periode langganan mesin. Misalnya, perpanjangan selama satu bulan akan memperpanjang langganan selama satu bulan.
|
Release a machine | Mesin pascabayar: Pada halaman detail kelompok sumber daya khusus, klik Delete pada kolom Operations dari instans target. Mesin subscription: Lihat EAS FAQ. |
View resource usage | Pada tab Resource Group, klik nama kelompok sumber daya target. Lalu pada tab Nodes, lihat penggunaan CPU, GPU, dan Penggunaan memori serta kapasitas total setiap mesin. |
Disable scheduling | Ketika mesin berada dalam status Running, klik Stop Scheduling pada kolom Actions agar mesin tidak dapat dijadwalkan. Klik Restart Scheduling untuk melanjutkan penjadwalan. Catatan Setelah penjadwalan dinonaktifkan, layanan yang sudah berjalan di mesin tetap berjalan. Namun, jika layanan direstart, layanan tersebut akan dijadwalkan ke mesin lain yang tersedia dalam kelompok sumber daya. |
Evacuate node | Klik Clear Node. Instans layanan yang diterapkan pada mesin akan secara otomatis dihentikan dan diterapkan ulang ke mesin lain yang tersedia dalam kelompok sumber daya. Penting Evakuasi node akan membatalkan semua pekerjaan yang sedang berjalan di mesin tersebut. Lakukan dengan hati-hati. |
Kelompok sumber daya virtual
Kelompok sumber daya virtual adalah pengelompokan logis yang menggabungkan berbagai jenis sumber daya—Sumber daya publik, Kuota sumber daya, dan sumber daya EAS khusus—sehingga Anda dapat menerapkan dan menjadwalkan satu layanan di beberapa kolam sumber daya berbeda.
Buat kelompok sumber daya virtual
Buka halaman AI Computing Resources > Resource Pools dan pilih tab EAS Inference Resources.
Pada tab Virtual Resource Group, klik Create Virtual Resource Group.
Jenis sumber daya yang didukung meliputi Public Resource Group, EAS Resource Group, dan Resource Quota. Untuk kelompok sumber daya publik, Anda juga dapat memilih Spot instances. Konfigurasikan jenis sumber daya sesuai kebutuhan dan atur prioritas penjadwalan untuk setiap sumber daya (1 = prioritas terendah, 9 = prioritas tertinggi).
Gunakan kelompok sumber daya virtual
Saat menerapkan layanan, pada bagian Resource Information, atur Resource Type menjadi EAS Resource Group, lalu pilih Virtual Resource Group dari daftar drop-down Resource Group.
Referensi
Untuk informasi lebih lanjut tentang konfigurasi penerapan layanan model, lihat Custom deployment.
Anda dapat mengonfigurasi pengumpulan log untuk kelompok sumber daya guna menyimpan log layanan EAS ke Logstore SLS Anda. Untuk informasi lebih lanjut, lihat Configure log collection.
FAQ
Dapatkah saya menerapkan beberapa model dalam satu kelompok sumber daya?
Ya. Selama kapasitas kelompok sumber daya mencukupi, Anda dapat menerapkan beberapa layanan model di dalamnya.
Dapatkah saya menggunakan sumber daya EAS khusus yang menganggur untuk pelatihan terdistribusi DLC?
Tidak. Sumber daya EAS khusus hanya dapat digunakan untuk penerapan layanan dan tidak tersedia untuk DLC.
