Platform For AI:Deploy Seni AI dengan SDWebUI

Anda dapat deploy layanan edisi Standard, API, dan Cluster WebUI. Ikuti langkah-langkah berikut:

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman, lalu pilih workspace yang diinginkan dan klik Elastic Algorithm Service (EAS).

2. Klik Deploy Service. Di bagian Custom Model Deployment, klik Custom Deployment.

3. Pada halaman Custom Deployment, konfigurasikan parameter utama berikut.

   Parameter		Deskripsi
   Environment Information	Deployment Method	Saat deploy layanan WebUI edisi Standard dan Cluster, pilih Image-based Deployment dan pilih Enable Web App. Saat deploy layanan edisi API, pilih Image-based Deployment, dan pilih Asynchronous Services.
   	Image Configuration	Pada daftar Alibaba Cloud Image, pilih stable-diffusion-webui, dan untuk nama image, pilih versi terbaru: x.x-standard: Standard Edition. x.x-api: API edition. x.x-cluster-webui: Cluster WebUI edition. Catatan Karena iterasi versi yang cepat, pilih versi image terbaru saat deploy. Jika Anda memerlukan beberapa pengguna untuk menghasilkan image menggunakan satu Stable Diffusion WebUI secara bersamaan, pilih versi x.x-cluster-webui. Untuk informasi lebih lanjut tentang skenario masing-masing versi, lihat Pilih versi yang sesuai.
   	Storage Mount	Digunakan untuk menyimpan file model dan image yang dihasilkan. Penting Anda harus mengonfigurasi pemasangan penyimpanan untuk edisi API dan Cluster. Jenis yang didukung: OSS Uri: Atur jalur OSS ke jalur bucket OSS yang sudah ada. Mount Path: Atur ke /code/stable-diffusion-webui/data. NAS File System: Pilih sistem file NAS yang sudah ada. Mount Target: Pilih titik pemasangan yang sudah ada. File System Path: Atur ke /. Mount Path: Atur ke /code/stable-diffusion-webui/data. PAI Model PAI Model: Pilih model PAI dan versi model. Mount Path: Atur ke /code/stable-diffusion-webui/data. Topik ini menggunakan pemasangan OSS sebagai contoh.
   	Command to Run	Setelah menyelesaikan konfigurasi di atas, sistem secara otomatis menghasilkan perintah run yang sesuai. Setelah memasang penyimpanan, Anda perlu menambahkan parameter --data-dir ke perintah run untuk memasang data ke jalur yang ditentukan pada instans layanan. Jalur tersebut harus sama dengan jalur pemasangan, misalnya --data-dir /code/stable-diffusion-webui/data. (Opsional) Anda juga dapat menambahkan parameter --blade atau --xformers ke perintah run untuk mengaktifkan akselerasi inferensi dan meningkatkan kecepatan pembangkitan image. Untuk informasi lebih lanjut tentang konfigurasi parameter, lihat Parameter yang dapat dikonfigurasi saat startup layanan.
   Resource Information	Deployment	Pilih tipe GPU. Untuk Resource Specification, nilai yang direkomendasikan adalah ml.gu7i.c16m60.1-gu30 (paling hemat biaya).
   Service Access	VPC	Saat Anda memilih NAS untuk Storage Mount, sistem secara otomatis mencocokkan VPC yang terhubung ke VPC tempat sistem file NAS berada. Tidak diperlukan modifikasi tambahan.
   	vSwitch
   	Security Group Name

4. Setelah mengonfigurasi parameter, klik Deploy.

Anda dapat menggunakan metode berbasis JSON untuk deploy layanan Stable Diffusion WebUI. Langkah-langkah berikut menunjukkan cara deploy edisi Standard dan API:

1. Masuk ke Konsol PAI. Pilih wilayah di bagian atas halaman, lalu pilih workspace yang diinginkan dan klik Elastic Algorithm Service (EAS).

2. Pada halaman Elastic Algorithm Service (EAS), klik Deploy Service. Di bagian Custom Model Deployment, klik JSON Deployment.

3. Pada editor di halaman JSON Deployment, konfigurasikan konten berikut dalam format JSON.

   Deploy layanan edisi Standard

   {
       "metadata": {
           "instance": 1,
           "name": "sd_v32",
           "enable_webservice": true
       },
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api --filebrowser --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ],
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-t4nmd6nebhlwwexk2****",
               "vswitch_id": "vsw-t4nfue2s10q2i0ae3****",
               "security_group_id": "sg-t4n85ksesuiq3wez****"
           }
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/data-oss",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "726434****-aws0.ap-southeast-1.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ]
   } 

   Tabel berikut menjelaskan parameter utama.

   Parameter	Wajib	Deskripsi
   metadata.name	Ya	Nama kustom layanan model. Nama harus unik dalam wilayah yang sama.
   containers.image	Ya	Ganti <region> dengan ID wilayah saat ini. Misalnya, ID untuk China (Shanghai) adalah cn-shanghai. Untuk informasi lebih lanjut tentang cara memeriksa ID wilayah, lihat Wilayah dan zona.
   storage	Tidak	Dua metode pemasangan berikut didukung. Anda dapat memilih salah satu: OSS: Menggunakan OSS untuk mengunggah dan mengunduh data lebih nyaman dan dapat menghasilkan URL akses publik untuk image yang dihasilkan. Namun, pergantian model dan penyimpanan image lebih lambat dibandingkan dengan NAS. Anda perlu mengatur storage.oss.path ke jalur bucket OSS yang telah dibuat. NAS: Menggunakan pemasangan NAS memberikan pergantian model dan penyimpanan image yang lebih cepat. Anda perlu mengatur storage.nfs.server ke sistem file NAS yang telah dibuat. Topik ini menggunakan pemasangan OSS sebagai contoh.
   cloud.networking	Tidak	Saat menggunakan pemasangan NAS untuk penyimpanan, Anda perlu mengonfigurasi VPC, termasuk vpc_id (ID VPC), vswitch_id (ID vSwitch), dan security_group_id (ID grup keamanan). VPC yang dikonfigurasi harus sama dengan VPC untuk sistem file NAS tujuan umum.

   Deploy layanan edisi API

   {
       "metadata": {
           "name": "sd_async",
           "instance": 1,
           "rpc.worker_threads": 1,
           "type": "Async"
       },
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-bp1t2wukzskw9139n****",
               "vswitch_id": "vsw-bp12utkudylvp4c70****",
               "security_group_id": "sg-bp11nqxfd0iq6v5g****"
           }
       },
       "queue": {
           "cpu": 1,
           "max_delivery": 1,
           "memory": 4000,
           "resource": ""
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/aohai-singapore/",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "0c9624****-fgh60.cn-hangzhou.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ],
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api-log --time-log --nowebui --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ]
   } 

   Dibandingkan dengan konfigurasi layanan edisi Standard, layanan edisi API memiliki perubahan konfigurasi berikut. Konfigurasi parameter lainnya sama dengan layanan edisi Standard.

   Parameter	Deskripsi
   Hapus parameter berikut:
   metadata.enable_webservice	Hapus parameter ini untuk menunjukkan bahwa layanan web tidak diaktifkan.
   containers.script	Hapus --filebrowser dari konfigurasi containers.script untuk mempercepat startup layanan.
   Tambahkan parameter berikut:
   metadata.type	Atur ke Async untuk mengaktifkan layanan asinkron.
   metadata.rpc.worker_threads	Atur ke 1 untuk memungkinkan satu instans memproses hanya satu permintaan secara konkuren.
   queue.max_delivery	Atur ke 1 untuk mencegah percobaan ulang setelah terjadi kesalahan pemrosesan pesan.
   containers.script	Tambahkan --nowebui (untuk mempercepat startup) dan --time-log (untuk mencatat waktu respons API) ke konfigurasi containers.script.
   Untuk informasi lebih lanjut tentang konfigurasi parameter, lihat Deploy layanan edisi Standard.

4. Klik Deploy.

Setelah layanan di-deploy, sistem secara otomatis membuat struktur direktori berikut di ruang penyimpanan OSS atau NAS yang dipasang.

• api_rec/

• configs/

• extensions/

• images/

• models/

• progress_images/

• requests_folder/

• cache.json

• params.txt

• ui-config.json

Di mana:

• models: Direktori ini digunakan untuk menyimpan file model.

• outputs: Setelah permintaan inferensi dimulai, sistem secara otomatis mengeluarkan file hasil ke direktori ini sesuai konfigurasi yang telah ditetapkan dalam kode API.

Anda dapat menyimpan model yang diunduh dari komunitas open source atau model LoRA atau Stable Diffusion yang Anda latih sendiri di direktori yang ditentukan untuk memuat dan menggunakannya. Ikuti langkah-langkah berikut:

1. Unggah file model ke subdirektori yang sesuai dalam direktori models penyimpanan yang dipasang. Untuk informasi lebih lanjut, lihat Langkah 2: Mengunggah file.

2. Pada halaman Elastic Algorithm Service (EAS), klik > Restart Service di kolom Actions layanan target. Perubahan akan berlaku setelah layanan berhasil direstart.

3. Pada halaman Stable Diffusion WebUI, ganti model dan lakukan validasi inferensi model.

   Klik daftar drop-down Stable Diffusion checkpoint dan pilih model target, misalnya, chilloutmix_NiPrunedFp32Fix.safetensors atau deliberate_v2.safetensors.

Tanpa pemasangan penyimpanan, siklus hidup file sama dengan layanan. Jika layanan dihentikan, direstart, atau dihapus, semua file akan dihapus. Oleh karena itu, kami merekomendasikan agar Anda memasang penyimpanan eksternal, seperti OSS atau NAS, untuk menyimpan file-file tersebut.

• Anda dapat mencoba menyelesaikan masalah dengan membuka kembali antarmuka Stable Diffusion WebUI atau merestart layanan EAS.

  • Klik layanan target untuk membuka halaman Overview dan klik Web applications di pojok kanan atas untuk membuka kembali Stable Diffusion WebUI.

  • Klik > Restart Service di kolom Actions layanan target untuk merestart layanan EAS.

• Jika merestart tidak menyelesaikan masalah setelah waktu yang lama, kemungkinan besar karena layanan perlu mengunduh konten, seperti model atau plugin, dari Internet. Secara default, EAS tidak memiliki akses jaringan publik. Citra runtime dapat dijalankan secara offline, dan pemasangan model tidak memerlukan koneksi jaringan. Namun, beberapa plugin bergantung pada pengunduhan konten dari Internet. Dalam kasus ini, kami merekomendasikan agar Anda memeriksa log untuk menemukan jalur unduhan model atau plugin, mengunduhnya secara manual, dan mengunggahnya ke OSS untuk dipasang. Untuk informasi lebih lanjut, lihat T: Bagaimana cara memasang model dan direktori output saya sendiri?. Jika Anda tetap perlu terhubung ke Internet, lihat Mengakses sumber daya jaringan publik atau internal dari EAS untuk mengonfigurasi koneksi jaringan publik.

1. Pada halaman Stable Diffusion WebUI, klik Settings.

2. Di panel navigasi sebelah kiri, klik User interface. Di bagian Localization di sebelah kanan, pilih None.

3. Di bagian atas halaman Stable Diffusion WebUI, klik Apply settings lalu klik Reload UI.

   Muat ulang halaman WebUI untuk mengganti bahasa ke Bahasa Inggris.

Saat Anda deploy layanan edisi Standard atau Cluster WebUI, sistem secara default menambahkan parameter --filebrowser ke perintah run. Anda dapat mengelola sistem file Anda langsung melalui antarmuka WebUI. Ikuti langkah-langkah berikut:

1. Klik nama layanan target untuk membuka halaman Overview, lalu klik Web applications di pojok kanan atas.

2. Pada halaman Stable Diffusion WebUI, klik tab FileBrowser. Anda dapat langsung melihat sistem file atau melakukan operasi unggah dan unduh.

1. Periksa versi deploy. Jika merupakan edisi API (image x.x-api) atau edisi Cluster WebUI (image x.x-cluster-webui), Anda harus mengonfigurasi model.

2. Periksa jalur pemasangan. Periksa apakah perintah run berisi parameter --data-dir dan pastikan jalurnya konsisten dengan jalur pemasangan OSS.

   Misalnya, atur baik jalur pemasangan OSS maupun parameter --data-dir dalam perintah run ke /code/stable-diffusion-webui/data. Contoh lengkap perintah run:

   ./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api --filebrowser --cluster-status --data-dir /code/stable-diffusion-webui/data

Periksa versi deploy layanan. Edisi API tidak mendukung WebUI. Jika Anda menggunakan deploy kustom, image x.x-api adalah untuk edisi API.