Penerapan model dan konfigurasi penerapan - Platform For AI

Anda dapat mengonfigurasi penerapan layanan untuk sebuah model saat mendaftarkannya. Sistem secara otomatis menggunakan konfigurasi ini ketika Anda menerapkan model, sehingga menghilangkan kebutuhan untuk memodifikasi konfigurasi secara manual dan meningkatkan efisiensi penerapan. Topik ini menjelaskan cara mengonfigurasi penerapan layanan serta menerapkan layanan model hanya dengan beberapa klik.

Penerapan layanan model

Anda dapat menyesuaikan konfigurasi penerapan layanan di bagian Model Service Deployment saat mendaftarkan model baru. 08ac986b062b90053e728608909d791c..png

Pilih Custom Configuration dan masukkan informasi konfigurasi penerapan.

Konfigurasi contoh untuk model yang diterapkan menggunakan gambar kustom:

{
  "containers": [
    {
      "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz",
      "env": [
        {
          "name": "var_name",
          "value": "var_value"
        }
      ],
      "command": "/data/eas/ENV/bin/python /data/eas/app.py",
      "port": 8000
    }
  ],
  "storage": [
    {
      "oss": {
        "readOnly": false
      },
      "properties": {
        "resource_type": "model"
      }
    }
  ]
}

Untuk informasi lebih lanjut tentang parameter, lihat Menerapkan Layanan Model Menggunakan Gambar Kustom. Untuk informasi lebih lanjut tentang penerapan model dalam Elastic Algorithm Service (EAS), lihat Penerapan Layanan.

Konfigurasi contoh untuk model yang diterapkan menggunakan prosesor preset:
```
{
  "processor": "tensorflow_gpu_1.12"
}
```

Konfigurasi contoh untuk model yang diterapkan menggunakan prosesor kustom:

{
  "processor_entry": "./service.py",
  "processor_type": "python",
  "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py",
  "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest"
}

Penerapan model

Anda dapat menerapkan model terdaftar ke EAS berdasarkan konfigurasi yang ditentukan di Model Service Deployment. Ikuti langkah-langkah berikut:

Di halaman Model Management, temukan model yang ingin Anda kelola, lalu klik Deploy to EAS di kolom Operation. Ikuti petunjuk di layar untuk mengonfirmasi penerapan. Halaman Layanan Penerapan akan muncul.
Catatan
Saat ini, hanya model yang dihasilkan dari Model Gallery yang mendukung penerapan satu klik.
Di halaman Layanan Penerapan, parameter utama di bagian Informasi Layanan Model disetel sesuai dengan konfigurasi penerapan layanan model. Anda hanya perlu mengonfigurasi parameter lain yang diperlukan untuk memulai penerapan. Untuk informasi lebih lanjut, lihat Penerapan Layanan Model Menggunakan Konsol PAI dan Machine Learning Designer.