Platform For AI：Kolam sumber daya elastis

Gunakan konsol

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman. Kemudian, pilih ruang kerja yang diinginkan dan klik Enter Elastic Algorithm Service (EAS).

2. Klik Deploy Service. Pada bagian Custom Model Deployment, klik Custom Deployment.

3. Di bagian Resource Deployment dari halaman Custom Deployment, konfigurasikan parameter yang diperlukan. Tabel berikut menjelaskan parameter utama. Untuk informasi lebih lanjut tentang parameter lainnya, lihat Penyebaran Layanan Model Menggunakan Konsol PAI.

   Parameter	Deskripsi
   Resource Type	Pilih EAS Resource Group.
   Resource Group	Pilih grup sumber daya khusus yang telah dibuat.
   Elastic Resource Pool	Aktifkan Elastic Resource Pool dan pilih grup sumber daya publik untuk Resource Type untuk mengaktifkan fitur kolam sumber daya elastis untuk layanan yang diterapkan di grup sumber daya khusus. Jika Anda mengaktifkan Kolam Sumber Daya Elastis dan grup sumber daya khusus yang Anda gunakan untuk menerapkan layanan sepenuhnya terisi, sistem secara otomatis menambahkan instance bayar sesuai pemakaian ke grup sumber daya publik selama penskalaan keluar. Instance yang ditambahkan ditagih sebagai sumber daya publik. Instance dalam grup sumber daya publik diprioritaskan untuk dilepaskan selama penskalaan masuk.

   

4. Klik Deploy.

Gunakan klien

Anda dapat mengaktifkan penskalaan otomatis untuk layanan saat menerapkan layanan menggunakan klien EASCMD. Bagian berikut menjelaskan prosedurnya menggunakan server Windows 64 sebagai contoh.

1. Konfigurasikan file JSON.

   Penting

   Metode konfigurasi sumber daya dan fitur koneksi langsung virtual private cloud (VPC) bervariasi berdasarkan tipe grup sumber daya layanan. Di grup sumber daya publik, Anda dapat menggunakan parameter cloud.computing untuk menentukan tipe node yang diperlukan dan mendapatkan lebih banyak sumber daya untuk layanan. Anda juga dapat menggunakan parameter cloud.networking untuk mengaktifkan fitur koneksi langsung VPC untuk layanan. Jika layanan diterapkan di grup sumber daya khusus, Anda hanya dapat mengaktifkan fitur koneksi langsung VPC untuk grup sumber daya khusus. Jika Anda menerapkan layanan di grup sumber daya khusus dan mengaktifkan fitur kolam sumber daya elastis untuk layanan, Anda harus mengonfigurasi parameter cloud.networking untuk memastikan ketersediaan koneksi langsung VPC selama penskalaan layanan.

   Kode berikut memberikan contoh isi file JSON:

   {
     "model_path": "http://examplebucket.oss-cn-shanghai.aliyuncs.com/models/lr.pmml",
     "name": "test_burstable_service",
     "processor": "pmml",
     "metadata": {
       "instance": 1,
       "cpu": 1,
       "resource": "eas-r-xxx",
       "resource_burstable": true
     },
      "cloud": {
           "computing": {
               "instance_type": "ecs.r7.2xlarge"
           },
           "networking": {
               "security_group_id": "sg-uf68iou5an8j7sxd****",
               "vswitch_id": "vsw-uf6nji7pzztuoe9i7****"
           }
       }
   }

   Dalam kode sebelumnya:

   • resource_burstable: Menentukan apakah penskalaan otomatis diaktifkan untuk layanan. Jika Anda mengatur parameter ini ke true, penskalaan otomatis diaktifkan untuk layanan.

   • cloud.networking: Parameter ini tidak berlaku untuk layanan yang diterapkan di grup sumber daya khusus. Jika Anda mengaktifkan fitur grup sumber daya elastis untuk layanan, Anda harus mengonfigurasi parameter ini untuk memastikan ketersediaan koneksi langsung VPC selama penskalaan layanan.

   • cloud.computing: Opsional. Anda dapat menentukan tipe node yang diperlukan di grup sumber daya publik selama penskalaan keluar. Untuk informasi lebih lanjut, lihat Gunakan Sumber Daya Publik.

   Untuk informasi tentang parameter lainnya, lihat Parameter untuk Penyebaran JSON.

2. Terapkan layanan menggunakan klien EASCMD. Untuk informasi lebih lanjut, lihat Terapkan Layanan Model Menggunakan EASCMD.

   Jika grup sumber daya khusus tidak cukup untuk mendukung penskalaan keluar layanan, instance layanan yang ditambahkan ke layanan menggunakan grup sumber daya publik.

Gunakan konsol

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman. Kemudian, pilih ruang kerja yang diinginkan dan klik Enter Elastic Algorithm Service (EAS).

2. Klik Update di kolom Actions dari layanan.

3. Di bagian Resource Deployment dari halaman Update Service, aktifkan atau nonaktifkan fitur penskalaan sumber daya otomatis.

   • Aktifkan penskalaan sumber daya otomatis

     Di bagian Resource Deployment, aktifkan Elastic Resource Pool dan konfigurasikan tipe sumber daya dari grup sumber daya publik.

   • Nonaktifkan penskalaan sumber daya otomatis

     Di bagian Resource Deployment, nonaktifkan Elastic Resource Pool.

4. Klik Update.

Gunakan klien

# Aktifkan fitur kolam sumber daya elastis untuk layanan yang telah diterapkan.
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=true

# Nonaktifkan fitur kolam sumber daya elastis untuk layanan yang telah diterapkan.
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=false