Platform For AI:Seni AI - Penyebaran SDWebUI

Sebarkan layanan Edisi Standar, Edisi API, dan WebUI Terkluster sebagai berikut:

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman, lalu pilih ruang kerja yang diinginkan dan klik Elastic Algorithm Service (EAS).

2. Klik Deploy Service. Di bagian Custom Model Deployment, klik Custom Deployment.

3. Pada halaman Custom Deployment, konfigurasikan parameter utama berikut.

   Parameter		Deskripsi
   Environment Information	Deployment Method	Saat menyebarkan layanan Edisi Standar dan WebUI Terkluster, pilih Image-based Deployment dan aktifkan Enable Web App. Saat menyebarkan layanan Edisi API, pilih Image-based Deployment dan aktifkan Asynchronous Services.
   	Image Configuration	Dalam daftar Alibaba Cloud Image, pilih stable-diffusion-webui. Pilih versi gambar tertinggi. Ini mencakup: x.x-standard: Menunjukkan Edisi Standar. x.x-api: Menunjukkan Edisi API. x.x-cluster-webui: Menunjukkan WebUI Terkluster. Catatan Karena versi berkembang pesat, pilih versi gambar tertinggi saat penyebaran. Jika beberapa pengguna perlu menghasilkan gambar secara bersamaan menggunakan satu Stable Diffusion WebUI, pilih versi x.x-cluster-webui. Untuk informasi lebih lanjut tentang skenario penggunaan setiap versi, lihat Pilih Edisi.
   	Storage Mount	Menyimpan file model dan gambar hasil inferensi. Penting Edisi API dan WebUI Terkluster harus mengonfigurasi pemasangan storage. Tipe berikut didukung: OSS Uri: Konfigurasikan path OSS ke path bucket OSS yang sudah ada. Mount Path: Konfigurasikan sebagai /code/stable-diffusion-webui/data. NAS File System: Pilih sistem file NAS yang sudah ada. Mount Target: Pilih titik pemasangan yang sudah ada. File System Path: Konfigurasikan sebagai /. Mount Path: Konfigurasikan sebagai /code/stable-diffusion-webui/data. PAI Model PAI Model: Pilih model PAI dan versi model. Mount Path: Konfigurasikan sebagai /code/stable-diffusion-webui/data. Topik ini menggunakan contoh pemasangan OSS.
   	Command to Run	Setelah menyelesaikan konfigurasi di atas, sistem secara otomatis menghasilkan perintah run yang sesuai. Setelah melakukan pemasangan storage, tambahkan parameter --data-dir ke perintah run untuk memasang data ke path yang ditentukan pada instans layanan. Path harus konsisten dengan path pemasangan, seperti --data-dir /code/stable-diffusion-webui/data. (Opsional) Tambahkan parameter --blade atau --xformers ke perintah run untuk mengaktifkan akselerasi inferensi dan meningkatkan kecepatan generasi gambar. Untuk instruksi konfigurasi parameter lebih lanjut, lihat Parameter yang didukung selama startup layanan.
   Resource Information	Deployment	Pilih tipe GPU. Resource Type yang direkomendasikan adalah ml.gu7i.c16m60.1-gu30 (rasio harga-kualitas tertinggi).
   Service Access	VPC	Saat Storage Mount diatur ke NAS, sistem secara otomatis mencocokkan VPC yang terhubung ke NAS. Tidak diperlukan modifikasi tambahan.
   	vSwitch
   	Security Group Name

4. Setelah mengonfigurasi parameter, klik Deploy.

Gunakan penyebaran mandiri JSON untuk menyebarkan layanan Stable Diffusion WebUI. Contoh berikut menggunakan Edisi Standar dan Edisi API. Lakukan langkah-langkah berikut:

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman, lalu pilih ruang kerja yang diinginkan dan klik Elastic Algorithm Service (EAS).

2. Pada halaman Elastic Algorithm Service (EAS), klik Deploy Service. Di area Custom Model Deployment, klik JSON Deployment.

3. Pada editor di halaman JSON Deployment, konfigurasikan konten JSON berikut.

   Menyebarkan Layanan Edisi Standar

   {
       "metadata": {
           "instance": 1,
           "name": "sd_v32",
           "enable_webservice": true
       },
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api --filebrowser --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ],
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-t4nmd6nebhlwwexk2****",
               "vswitch_id": "vsw-t4nfue2s10q2i0ae3****",
               "security_group_id": "sg-t4n85ksesuiq3wez****"
           }
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/data-oss",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "726434****-aws0.ap-southeast-1.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ]
   } 

   Deskripsi parameter utama sebagai berikut:

   Parameter	Wajib	Deskripsi
   metadata.name	Ya	Nama layanan model kustom, unik dalam wilayah tersebut.
   containers.image	Ya	Ganti <region> dengan ID wilayah saat ini. Misalnya, Tiongkok (Shanghai) adalah cn-shanghai. Untuk informasi cara menanyakan ID wilayah, lihat Wilayah dan zona.
   storage	Tidak	Dua metode pemasangan berikut didukung. Pilih salah satu: OSS: Lebih mudah mengunggah dan mengunduh data menggunakan OSS. Dapat menghasilkan URL akses jaringan publik untuk gambar yang dihasilkan, tetapi pergantian model dan penyimpanan gambar lebih lambat dibandingkan dengan NAS. Konfigurasikan storage.oss.path ke path bucket OSS yang sudah ada. NAS: Menggunakan pemasangan NAS lebih cepat untuk pergantian model dan penyimpanan gambar. Konfigurasikan storage.nfs.server ke sistem file NAS yang sudah ada. Topik ini menggunakan contoh pemasangan OSS.
   cloud.networking	Tidak	Saat `storage` menggunakan pemasangan NAS, konfigurasikan virtual private cloud (VPC), termasuk `vpc_id` (ID VPC), `vswitch_id` (ID vSwitch), dan `security_group_id` (ID grup keamanan). VPC yang dikonfigurasi harus konsisten dengan sistem file NAS tujuan umum.

   Menyebarkan Layanan Edisi API

   {
       "metadata": {
           "name": "sd_async",
           "instance": 1,
           "rpc.worker_threads": 1,
           "type": "Async"
       },
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-bp1t2wukzskw9139n****",
               "vswitch_id": "vsw-bp12utkudylvp4c70****",
               "security_group_id": "sg-bp11nqxfd0iq6v5g****"
           }
       },
       "queue": {
           "cpu": 1,
           "max_delivery": 1,
           "memory": 4000,
           "resource": ""
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/aohai-singapore/",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "0c9624****-fgh60.cn-hangzhou.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ],
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api-log --time-log --nowebui --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ]
   } 

   Dibandingkan dengan konfigurasi layanan Edisi Standar, berikut adalah perubahan konfigurasi untuk layanan Edisi API. Konfigurasi parameter lainnya sama dengan layanan Edisi Standar.

   Parameter	Deskripsi
   Hapus parameter berikut:
   metadata.enable_webservice	Hapus parameter ini untuk menonaktifkan server web.
   containers.script	Hapus --filebrowser yang dikonfigurasi dalam containers.script untuk mempercepat startup layanan.
   Tambahkan parameter berikut:
   metadata.type	Konfigurasikan sebagai `Async` untuk mengaktifkan layanan asinkron.
   metadata.rpc.worker_threads	Konfigurasikan sebagai `1`. Satu instans hanya memungkinkan pemrosesan konkuren satu permintaan.
   queue.max_delivery	Konfigurasikan sebagai `1`. Tidak diperbolehkan mencoba ulang setelah terjadi kesalahan pemrosesan pesan.
   containers.script	Tambahkan --nowebui (untuk mempercepat startup) dan --time-log (untuk mencatat waktu respons API) ke konfigurasi containers.script.
   Untuk instruksi konfigurasi parameter lebih lanjut, lihat Menyebarkan Layanan Edisi Standar.

4. Klik Deploy.

Setelah layanan disebarkan, sistem secara otomatis membuat struktur direktori berikut di ruang penyimpanan OSS atau NAS yang dipasang:

Ini mencakup:

• models: Direktori ini menyimpan file model.

• Setelah memulai permintaan inferensi, sistem secara otomatis menyimpan file hasil ke direktori ini sesuai pengaturan yang telah dikonfigurasi sebelumnya dalam kode API.

Simpan model yang diunduh dari komunitas sumber terbuka atau model LoRA dan Stable Diffusion yang Anda latih di direktori yang ditentukan di atas untuk memuat dan menggunakan model baru. Lakukan langkah-langkah berikut:

1. Unggah file model ke subdirektori yang sesuai di bawah direktori models penyimpanan yang dipasang. Untuk detailnya, lihat Langkah 2: Unggah file.

2. Pada halaman Elastic Algorithm Service (EAS), klik >Restart Service di kolom Actions layanan target. Perubahan berlaku setelah layanan berhasil dimulai ulang.

3. Pada halaman Stable Diffusion WebUI, ganti model dan verifikasi inferensi model.

   

Tanpa pemasangan penyimpanan, siklus hidup file konsisten dengan layanan. Semua file dihapus saat layanan berhenti, dimulai ulang, atau dihapus. Oleh karena itu, simpan file-file ini dengan memasang penyimpanan eksternal, seperti OSS atau NAS.

• Pertama, coba buka kembali antarmuka Stable Diffusion WebUI atau mulai ulang layanan EAS untuk menyelesaikan masalah:

  • Klik layanan target untuk membuka halaman Overview. Di pojok kanan atas, klik Web applications untuk membuka kembali Stable Diffusion WebUI.

  • Klik kolom Actions layanan target, klik > Restart Service, dan mulai ulang layanan EAS.

• Jika memulai ulang tidak menyelesaikan masalah dalam waktu lama, kemungkinan besar karena layanan perlu mengunduh model atau plugin dari jaringan publik. EAS tidak mengaktifkan akses jaringan publik secara default. Gambar dapat dimulai secara offline, dan model yang dipasang tidak memerlukan jaringan. Namun, beberapa plugin bergantung pada pengunduhan konten dari Internet. Dalam kasus ini, temukan path unduhan model atau plugin dari log. Unduh model secara manual dan unggah ke OSS untuk dipasang. Untuk detailnya, lihat T: Bagaimana cara memasang direktori model dan output saya?. Jika konektivitas jaringan publik masih diperlukan, lihat Akses sumber daya jaringan publik atau internal di EAS untuk mengonfigurasi akses jaringan publik.

1. Pada halaman Stable Diffusion WebUI, klik Settings.

2. Di panel navigasi kiri, klik User Interface. Di area Localization di sebelah kanan, pilih None.

3. Di bagian atas halaman Stable Diffusion WebUI, klik Save Settings. Setelah disimpan, klik Reload UI.

   Muat ulang halaman WebUI untuk beralih ke Bahasa Inggris.

Saat menyebarkan layanan Edisi Standar dan WebUI Terkluster, sistem secara otomatis menambahkan parameter --filebrowser ke perintah run secara default. Kelola sistem file Anda langsung melalui antarmuka WebUI sebagai berikut:

2. Pada halaman Stable Diffusion WebUI, klik tab FileBrowser. Lihat sistem file secara langsung, atau lakukan operasi unggah dan unduh.

   

1. Periksa versi penyebaran. Jika merupakan Edisi API (gambar x.x-api) atau WebUI Terkluster (gambar x.x-cluster-webui), konfigurasi model diperlukan.

2. Periksa path pemasangan. Verifikasi apakah parameter --data-dir ada dalam perintah run dan pastikan path-nya konsisten dengan path pemasangan OSS.

   

Periksa versi penyebaran layanan. Edisi API tidak mendukung penggunaan WebUI. Jika menggunakan penyebaran kustom, gambar x.x-api adalah untuk Edisi API.