Platform For AI：Terapkan layanan model menggunakan custom image

Langkah 1: Siapkan lingkungan

Sebelum memulai, pastikan lingkungan dan resource berikut telah siap:

• Virtual Private Cloud (VPC): Layanan EAS, instans ECS, dan repository image ACR harus berkomunikasi melalui VPC untuk memastikan stabilitas dan keamanan proses dorong dan tarik citra.

• Container Registry (ACR): ACR digunakan untuk menyimpan dan mengelola custom image Anda. Untuk informasi lebih lanjut tentang cara menyiapkan instans ACR Enterprise Edition serta membuat namespace dan repository image yang diperlukan, lihat Gunakan instans Edisi Perusahaan untuk mendorong dan menarik citra.

• Lingkungan pengembangan: Anda dapat membuat instans ECS dengan konfigurasi berikut untuk membangun citra.

  • Tipe Instans: ecs.u1-c1m2.large

  • Citra: Alibaba Cloud Linux 3.2104 LTS (64-bit)

  • Ekstensi: Docker Community Edition

  • Jaringan: Anda harus menambahkan VPC yang dipilih ke pengaturan kontrol akses instans ACR Enterprise Edition. Jika tidak, Anda tidak dapat mendorong citra ke repository image ACR. Untuk informasi lebih lanjut, lihat Konfigurasikan kontrol akses untuk instans ACR melalui VPC.

  Catatan

  Anda juga dapat menggunakan lingkungan pengembangan lokal atau lainnya.

  • Lingkungan pengembangan lokal: Anda dapat menginstal dan menjalankan Docker untuk membangun citra secara lokal.

  • Gunakan lingkungan pengembangan DSW: Di kolom Aksi untuk instans DSW, klik Create Image. Aksi ini membangun citra Docker dan menyimpannya ke Alibaba Cloud Container Registry (ACR). Saat penerapan, pilih Custom Image lalu pilih citra dari daftar drop-down. Untuk informasi lebih lanjut, lihat Buat citra instans DSW.

Langkah 2: Siapkan file aplikasi

Buat folder proyek, misalnya my-app, lalu tambahkan tiga file berikut ke dalam folder tersebut:

1. requirements.txt (dependensi aplikasi)

   flask
   gunicorn

2. app.py (kode aplikasi web)

   from flask import Flask
   
   app = Flask(__name__)
   
   @app.route('/hello/model')
   def hello_world():
       # Anda dapat mengintegrasikan inferensi model atau logika bisnis lainnya di sini.
       return 'Hello World from Gunicorn!'
   
   # Catatan: app.run() tidak diperlukan. Aplikasi akan dijalankan oleh Gunicorn.

3. Dockerfile (instruksi pembuatan citra)

   # 1. Gunakan citra Python resmi yang ringan sebagai dasar.
   FROM python:3.9-slim
   
   # 2. Tetapkan direktori kerja.
   WORKDIR /app
   
   # 3. Salin dan instal file dependensi. Ini memanfaatkan mekanisme cache Docker untuk mempercepat build berikutnya.
   COPY requirements.txt .
   RUN pip install --no-cache-dir -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
   
   # 4. Salin kode aplikasi.
   COPY app.py .
   
   # 5. Deklarasikan port layanan.
   EXPOSE 8000
   
   # 6. Definisikan perintah default saat kontainer dijalankan. Ini dapat ditimpa oleh "Run Command" di Konsol EAS.
   CMD ["gunicorn", "-w", "4", "-b", "0.0.0.0:8000", "app:app"]

Langkah 3: Bangun dan dorong citra

1. Buka terminal dan masuk ke folder proyek (my-app).

2. Login ke instans ACR Anda. Ganti placeholder dalam perintah dengan informasi aktual Anda.

   # Contoh: docker login --username=your_user my-registry.cn-hangzhou.aliyuncs.com
   docker login --username=<username> <ACR_repository_domain_name>

3. Bangun citra Docker dan berikan tag lengkap.

   # Contoh: docker build -t my-registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1 .
   docker build -t <ACR_repository_domain_name>/<namespace>/<image_repository_name>:<version_number> .

4. Dorong citra yang telah dibangun ke ACR.

   # Contoh: docker push registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1
   docker push <ACR_repository_domain_name>/<namespace>/<image_repository_name>:<version_number>

Langkah 4: Terapkan layanan

1. Login ke Konsol PAI. Pilih wilayah di bagian atas halaman. Lalu, pilih ruang kerja yang diinginkan dan klik Elastic Algorithm Service (EAS).

2. Klik Deploy Service dan pilih Custom Model Deployment > Custom Deployment.

3. Konfigurasikan parameter utama berikut:

   • Pada Deployment Method, pilih Image-based Deployment.

   • Image Configuration Pilih Image Address dan masukkan alamat citra lengkap yang telah Anda dorong pada langkah sebelumnya.

     Karena contoh ini menggunakan repository ACR di bawah Akun Alibaba Cloud yang sama, EAS dapat menarik citra tanpa kata sandi. Anda tidak perlu menyediakan username dan password.

   • Command to Run gunicorn -w 4 -b 0.0.0.0:8000 app:app

     Catatan: Start Command yang ditentukan di Konsol EAS menimpa instruksi CMD dalam Dockerfile. Kami merekomendasikan agar Anda menentukan perintah start di sini untuk memudahkan debugging dan modifikasi.

   • Port Number 8000.

   • Deployment: Untuk contoh ini, pilih resource CPU, seperti ecs.c6.large dari Public Resources.

   • VPC: Pilih VPC, vSwitch, dan security group.

     Pastikan VPC yang Anda pilih di sini telah ditambahkan ke daftar kontrol akses instans ACR. Jika tidak, proses tarik citra gagal karena masalah jaringan. Salah satu error umum adalah ImagePullBackOff.

4. Klik Deploy. Layanan berhasil diterapkan ketika status layanan berubah menjadi Running.

T: Mengapa tarik citra gagal dengan error `ImagePullBackOff`?

• Penyebab 1: Kegagalan koneksi jaringan. Ini adalah penyebab paling umum. Periksa apakah VPC yang dikonfigurasi untuk layanan EAS telah ditambahkan ke daftar putih kontrol akses instans ACR. Jika Anda bekerja lintas wilayah, Anda harus menghubungkan VPC melalui CEN. Untuk informasi lebih lanjut, lihat Akses instans ACR Enterprise Edition dari wilayah lain atau IDC. Jika Anda menarik citra melalui jaringan publik, pastikan VPC dengan akses jaringan publik telah dikonfigurasi untuk EAS dan Anda telah mengaktifkan akses publik untuk ACR.

• Penyebab 2: Kegagalan otentikasi. Jika Anda menggunakan repositori gambar pribadi yang memerlukan otentikasi (bukan repositori ACR di bawah akun Anda), periksa apakah informasi otentikasi yang Anda masukkan di bagian Image Configuration sudah benar.

• Penyebab 3: Citra tidak ditemukan. Periksa apakah alamat citra, namespace, dan nomor versi (tag) sudah benar. Pastikan juga bahwa citra telah berhasil didorong ke repository.

• Penyebab 4: Ruang disk sistem tidak mencukupi. Untuk mengatasi masalah ini, Anda dapat memperluas disk sistem.