Buat layanan PAI-EAS menggunakan kelompok sumber daya EAS - Platform For AI

EAS menyediakan kelompok sumber daya khusus untuk pembelian dan pengelolaan sumber daya eksklusif, serta kelompok sumber daya virtual untuk penerapan layanan lintas berbagai jenis sumber daya, seperti sumber daya publik, sumber daya khusus, dan Sumber daya komputasi cerdas Lingjun.

Kelompok sumber daya khusus

Jenis sumber daya

Sumber daya khusus mendukung metode penagihan Subscription dan Pay-as-you-go.

Type	Billing method	Resource group management	Supported node types
Subscription resources	Subscription	Purchase nodes, renew Subscription nodes, delete Pay-as-you-go nodes, and delete resource groups. For more information, see Manage nodes in a dedicated resource group.	For supported node types, go to the EAS Subscription Dedicated Nodes page.
Pay-as-you-go resources	Pay-as-you-go		For supported node types, go to the EAS Pay-as-you-go Dedicated Nodes page.

Penting

Sumber daya khusus Pay-as-you-go mulai dikenai biaya segera setelah pembelian, terlepas dari penerapan layanan. Hapus node Pay-as-you-go yang tidak digunakan sesegera mungkin untuk menghindari biaya yang tidak perlu.

Buat kelompok sumber daya khusus

Buka halaman AI Computing Resources > Resource Pools dan pilih tab EAS Inference Resources.
Pada tab Dedicated Resource Group, klik Create Resource Group dan pilih salah satu opsi berikut:
- Create Resource Group: Membuat hanya kelompok sumber daya. Beli node nanti dari halaman detail kelompok sumber daya.
- Create Resource (Subscription) atau Create Resource (Pay by Usage): Membuka halaman pembelian tempat Anda membeli node dan membuat kelompok sumber daya secara bersamaan.

Pada halaman pembelian, konfigurasikan parameter yang dijelaskan dalam tabel berikut.

Parameter	Description
Billing Method	Pilih Subscription atau Pay-as-you-go.
Region and Zone	Wilayah dan zona ketersediaan untuk kelompok sumber daya.
Node Type	Spesifikasi GPU dan CPU. Untuk tipe node yang didukung, lihat EAS Subscription Dedicated Nodes atau EAS Pay-as-you-go Dedicated Nodes. Catatan Tipe node yang didukung berbeda-beda tergantung wilayahnya.
System Disk	Setiap node mencakup kapasitas sistem disk gratis sebesar 200 GB. Kapasitas penyimpanan dapat ditingkatkan dari 200 GB hingga 2.000 GB. Untuk informasi mengenai biaya tambahan kapasitas, lihat Billing of EAS. Catatan Semua instans layanan berbagi ruang sistem disk. Jika ruang disk tidak mencukupi, sistem akan menghapus instans yang mengonsumsi ruang berlebihan. Untuk membaca dan menulis ke direktori disk lokal selama waktu proses, lihat Mount storage.
Purchase Option	Pilih Create Resource Group atau Existing Resource Group. Jika Anda memilih Existing Resource Group, Anda harus mengonfigurasi parameter Resource Group ID.
Resource Group ID	Pilih kelompok sumber daya yang sudah ada dari daftar.
Quantity	Nilai yang valid: 1 hingga 9999.
Subscription Duration	Nilai yang valid: 1 Bulan, 2 Bulan, 3 Bulan, 6 Bulan, dan 1 Tahun. Hanya berlaku untuk Subscription.
Auto-renewal	Secara otomatis memperpanjang langganan saat masa berlangganan habis. Hanya berlaku untuk Subscription.

Klik Buy Now.

Setelah pembayaran, sistem secara otomatis menyediakan sumber daya. Lihat semua kelompok sumber daya atau ubah nama mereka pada tab Resource Group.

Catatan
(Hanya berlaku untuk Subscription) Jika pembuatan kelompok sumber daya gagal (misalnya karena sumber daya tidak mencukupi), sistem secara otomatis mengembalikan dana ke metode pembayaran asli Anda.

Kelola node dalam kelompok sumber daya khusus

Purchase nodes	Pada tab Resource Group, pilih kelompok sumber daya target. Klik Purchase Node untuk membeli node Subscription atau Pay-as-you-go. Untuk detail konfigurasi, lihat Create a dedicated resource group.
Renew nodes (Hanya untuk node Subscription)	Memperpanjang durasi penggunaan node. Misalnya, perpanjangan satu bulan memperpanjang tanggal kedaluwarsa sebesar satu bulan. Pada halaman detail kelompok sumber daya khusus, buka tab Nodes. Di kolom Actions node Subscription, klik ikon dan pilih Renew. Pada halaman Renew, konfigurasikan Subscription Duration dan klik Buy Now.
Delete nodes from a dedicated resource group	Node Pay-as-you-go: Pada halaman detail kelompok sumber daya khusus, klik Delete di kolom Actions untuk node target. Node Subscription: Lihat EAS FAQ.
View node resource usage	Pada tab Resource Group, klik nama kelompok sumber daya target. Pada tab Nodes, lihat CPU, GPU, dan memori yang digunakan/total untuk setiap node.
Stop scheduling	Saat node berada dalam status Running, klik Stop Scheduling di kolom Actions agar node tidak tersedia untuk penjadwalan. Klik Restart Scheduling untuk melanjutkan penjadwalan. Catatan Setelah penjadwalan dihentikan, layanan yang sudah berjalan di node tersebut tetap berjalan. Jika layanan direstart, layanan tersebut akan diterapkan ulang ke node lain yang tersedia dalam kelompok sumber daya.
Clear a node	Klik Clear Node. Tindakan ini menghentikan dan menerapkan ulang instans layanan di node tersebut ke node lain yang tersedia dalam kelompok sumber daya. Penting Membersihkan node akan menghentikan semua tugas yang sedang berjalan di dalamnya. Lakukan tindakan ini dengan hati-hati.

Kelompok sumber daya virtual

Kelompok sumber daya virtual EAS mengelompokkan berbagai jenis sumber daya secara logis, seperti sumber daya publik, kuota sumber daya, dan sumber daya khusus EAS. Hal ini memungkinkan penerapan dan penjadwalan layanan terpadu lintas berbagai jenis sumber daya dalam satu layanan.

Buat kelompok sumber daya virtual

Buka halaman AI Computing Resources > Resource Pools dan pilih tab EAS Inference Resources.
Pada tab Virtual Resource Group, klik Create Virtual Resource Group. Kelompok sumber daya publik mendukung pemilihan spot instance. Konfigurasikan beberapa jenis sumber daya sesuai kebutuhan dan atur prioritas penjadwalan untuk setiap jenis sumber daya (1 = terendah, 9 = tertinggi).

Gunakan kelompok sumber daya virtual

Saat menerapkan layanan, pada bagian Resource Information, pilih EAS Resource Group untuk Resource Type. Kemudian, dari daftar drop-down Resource Group, pilih Virtual Resource Group.

Dokumentasi terkait

Untuk konfigurasi penerapan layanan model, lihat Custom deployment.
Konfigurasikan Simple Log Service (SLS) untuk kelompok sumber daya guna mengumpulkan log layanan EAS ke Logstore SLS Anda. Untuk informasi lebih lanjut, lihat Configure Simple Log Service for a resource group.

FAQ

Apakah saya dapat menerapkan beberapa model dalam satu kelompok sumber daya?

Ya. Anda dapat menerapkan beberapa layanan model dalam satu kelompok sumber daya, asalkan memiliki sumber daya yang mencukupi.
Apakah sumber daya inferensi EAS yang tersisa dapat digunakan untuk pelatihan terdistribusi DLC?

Tidak. Sumber daya khusus EAS hanya mendukung penerapan layanan, bukan pelatihan terdistribusi DLC.