EAS mendukung tiga jenis sumber daya: sumber daya publik, kelompok sumber daya EAS, dan kuota sumber daya. Bandingkan fitur-fiturnya dan pilih jenis yang sesuai untuk workload Anda.
Perbandingan jenis sumber daya
|
Jenis sumber daya |
Kasus penggunaan |
Penagihan |
Fitur |
|
|
Pengujian atau layanan dengan traffic fluktuatif, terutama bila digabungkan dengan kelompok sumber daya spesifikasi khusus. |
|
|
||
|
kelompok sumber daya spesifikasi khusus |
Workload yang memerlukan keamanan tinggi atau sumber daya eksklusif. Juga berguna untuk memesan jenis sumber daya langka sebelumnya. |
|
|
|
|
kelompok sumber daya virtual |
Kelompok logis yang menggabungkan beberapa jenis sumber daya, seperti sumber daya publik, kuota sumber daya, dan kelompok sumber daya spesifikasi khusus. |
Ditagih berdasarkan sumber daya yang dijadwalkan dan digunakan. |
|
|
|
kuota sumber daya |
Hanya Sumber daya komputasi cerdas Lingjun yang didukung. |
|
|
|
Pilih jenis sumber daya
Pilih jenis sumber daya yang sesuai untuk kasus penggunaan Anda:
Pengujian dan pengembangan
-
Rekomendasi: sumber daya publik
-
Alasan: Penagihan pay-as-you-go tanpa biaya di muka. Cocok untuk lingkungan pengujian dengan traffic yang tidak dapat diprediksi.
-
Catatan: Sumber daya mungkin tidak mencukupi selama jam sibuk. Untuk informasi selengkapnya, lihat Apa yang harus dilakukan ketika sumber daya publik tidak mencukupi.
Lingkungan produksi - Workload stabil
-
Rekomendasi: kelompok sumber daya spesifikasi khusus
-
Alasan: Sumber daya spesifikasi khusus menjamin performa stabil untuk beban kerja dengan ketersediaan tinggi.
-
Biaya: Mendukung langganan untuk mengurangi biaya.
Lingkungan produksi - Traffic fluktuatif
-
Rekomendasi: kelompok sumber daya virtual (kombinasi kelompok sumber daya spesifikasi khusus dan sumber daya publik)
-
Alasan: Sumber daya spesifikasi khusus menyediakan garis dasar. Sumber daya publik menangani lonjakan traffic secara efisien dari segi biaya.
-
Tips: Atur prioritas penjadwalan agar menggunakan sumber daya spesifikasi khusus terlebih dahulu dan melakukan scale out ke sumber daya publik selama puncak traffic.
Kebutuhan perangkat keras khusus
-
Rekomendasi: kuota sumber daya (Sumber daya komputasi cerdas Lingjun)
-
Alasan: Akses ke perangkat keras berkinerja tinggi tertentu.
-
Kasus penggunaan: Pelatihan dan inferensi model skala besar.
Fitur lanjutan
Setelah Anda mengonfigurasi sumber daya, gunakan fitur-fitur berikut untuk mengoptimalkan pemanfaatan sumber daya:
-
GPU slicing: Membagi daya komputasi dan memori satu GPU untuk beberapa instans layanan. Hal ini meningkatkan pemanfaatan GPU dan mengurangi biaya penerapan. Tersedia untuk kelompok sumber daya spesifikasi khusus dan Sumber daya komputasi cerdas Lingjun.
-
Inferensi terdistribusi multi-node: Menerapkan satu instans layanan di beberapa mesin untuk mengatasi batasan perangkat keras single-node. Fitur ini memungkinkan penerapan model ultra-besar seperti DeepSeek 671B.
FAQ
Lihat FAQ EAS.
Topik terkait
-
Untuk ikhtisar pengembangan dan penerapan model end-to-end, lihat Ikhtisar EAS.
-
Untuk mengirim log dari kelompok sumber daya ke Simple Log Service (SLS), lihat Konfigurasikan layanan log untuk kelompok sumber daya.