Platform For AI:SDWebUI ile yapay zeka sanatı dağıtma

Standart, API ve Küme WebUI sürümü hizmetlerini dağıtabilirsiniz. Aşağıdaki adımları izleyin:

1. PAI konsolu üzerinde oturum açın. Sayfanın üst kısmından bir bölge seçin. Ardından istenen çalışma alanını seçin ve Enter Elastic Algorithm Service (EAS) seçeneğine tıklayın.

2. Deploy Service seçeneğine tıklayın. Inference Service bölümünde, Custom Model Deployment bölümündeki Custom Deployment seçeneğine tıklayın.

3. Custom Deployment sayfasında aşağıdaki anahtar parametreleri yapılandırın.

   Parametre		Açıklama
   Environment Information	Deployment Method	Standart Sürüm ve Küme Sürümü WebUI hizmetlerini dağıtırken Image-based Deployment seçeneğini belirleyin ve Enable Web App seçeneğini işaretleyin. Bir API sürümü hizmeti dağıtırken Image-based Deployment seçeneğini belirleyin ve Asynchronous Services seçeneğini işaretleyin.
   	Image Configuration	Alibaba Cloud Image listesinde stable-diffusion-webui seçeneğini belirleyin ve görüntü adı için en son sürümü seçin: x.x-standard: Standart Sürüm. x.x-api: API sürümü. x.x-cluster-webui: Küme WebUI sürümü. Not Hızlı sürüm yinelemeleri nedeniyle dağıtım sırasında en son görüntü sürümünü seçin. Birden çok kullanıcının aynı anda tek bir Stable Diffusion WebUI kullanarak görüntü oluşturması gerekiyorsa x.x-cluster-webui sürümünü seçin. Her sürümün senaryoları hakkında daha fazla bilgi için bkz. Uygun sürümü seçin.
   	Storage Mount	Model dosyalarını ve oluşturulan görüntüleri depolamak için kullanılır. Önemli API ve Küme sürümleri için depolama bağlamalarını yapılandırmanız gerekir. Aşağıdaki türler desteklenir: OSS Uri: OSS yolunu mevcut bir OSS paketinin yoluna ayarlayın. Mount Path: /code/stable-diffusion-webui/data olarak ayarlayın. NAS File System: Mevcut bir NAS dosya sistemi seçin. Mount Target: Mevcut bir bağlama hedefi seçin. File System Path: / olarak ayarlayın. Mount Path: /code/stable-diffusion-webui/data olarak ayarlayın. PAI Model PAI Model: PAI modelini ve model sürümünü seçin. Mount Path: /code/stable-diffusion-webui/data olarak ayarlayın. Bu konuda örnek olarak bir OSS bağlaması kullanılmaktadır.
   	Command to Run	Yukarıdaki yapılandırmaları tamamladıktan sonra sistem ilgili çalıştırma komutunu otomatik olarak oluşturur. Depolamayı bağladıktan sonra, verileri hizmet örneğinin belirtilen yoluna bağlamak için çalıştırma komutuna --data-dir parametresini eklemeniz gerekir. Yol, bağlama yolu ile aynı olmalıdır; örneğin --data-dir /code/stable-diffusion-webui/data. (İsteğe bağlı) Çıkarım hızlandırmayı etkinleştirmek ve görüntü oluşturma hızını artırmak için çalıştırma komutuna --blade veya --xformers parametresini de ekleyebilirsiniz. Parametre yapılandırmaları hakkında daha fazla bilgi için bkz. Hizmet başlatma sırasında yapılandırılabilen parametreler.
   Resource Information	Deployment	Bir GPU türü seçin. Resource Specification için önerilen değer ml.gu7i.c16m60.1-gu30 (en maliyet etkin) değeridir.
   Service Access	VPC	Depolama Bağlama için NAS seçtiğinizde, sistem NAS dosya sisteminin bulunduğu VPC'ye bağlı bir VPC'yi otomatik olarak eşleştirir. Ek değişiklik yapılmasına gerek yoktur.
   	vSwitch
   	Security Group Name

4. Parametreleri yapılandırdıktan sonra Deploy seçeneğine tıklayın.

Bir Stable Diffusion WebUI hizmetini dağıtmak için JSON tabanlı bir yöntem kullanabilirsiniz. Aşağıdaki adımlarda Standart ve API sürümlerinin nasıl dağıtılacağı gösterilmektedir:

1. PAI konsolu üzerinde oturum açın. Sayfanın üst kısmından bir bölge seçin. Ardından istenen çalışma alanını seçin ve Enter Elastic Algorithm Service (EAS) seçeneğine tıklayın.

2. Elastic Algorithm Service (EAS) sayfasında Deploy Service seçeneğine tıklayın. Custom Model Deployment bölümünde JSON Deployment seçeneğine tıklayın.

3. JSON Deployment sayfasındaki düzenleyicide aşağıdaki içeriği JSON formatında yapılandırın.

   Standart Sürüm hizmetini dağıtma

   {
       "metadata": {
           "instance": 1,
           "name": "sd_v32",
           "enable_webservice": true
       },
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api --filebrowser --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ],
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-t4nmd6nebhlwwexk2****",
               "vswitch_id": "vsw-t4nfue2s10q2i0ae3****",
               "security_group_id": "sg-t4n85ksesuiq3wez****"
           }
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/data-oss",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "726434****-aws0.ap-southeast-1.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ]
   } 

   Aşağıdaki tabloda anahtar parametreler açıklanmaktadır.

   Parametre	Gerekli	Açıklama
   metadata.name	Evet	Model hizmetinin özel adı. Ad, aynı bölge içinde benzersiz olmalıdır.
   containers.image	Evet	<region> ifadesini geçerli bölge kimliğiyle değiştirin. Örneğin, Çin (Şanghay) için kimlik cn-shanghai'dir. Bölge kimliklerini sorgulama hakkında daha fazla bilgi için bkz. Bölgeler ve alanlar.
   storage	Hayır	Aşağıdaki iki bağlama yöntemi desteklenir. Bunlardan birini seçebilirsiniz: OSS: Verileri yüklemek ve indirmek için OSS kullanmak daha kolaydır ve oluşturulan görüntüler için genel erişim URL'leri oluşturabilir. Ancak, model değiştirme ve görüntü kaydetme işlemleri NAS'e göre daha yavaştır. storage.oss.path değerini oluşturulmuş bir OSS paketinin yoluna ayarlamanız gerekir. NAS: NAS bağlaması kullanmak, model değiştirmeyi ve görüntü kaydetmeyi hızlandırır. storage.nfs.server değerini oluşturulmuş bir NAS dosya sistemine ayarlamanız gerekir. Bu konuda örnek olarak bir OSS bağlaması kullanılmaktadır.
   cloud.networking	Hayır	Depolama için NAS bağlaması kullanırken, vpc_id (VPC Kimliği), vswitch_id (vSwitch Kimliği) ve security_group_id (güvenlik grubu kimliği) dahil olmak üzere bir VPC yapılandırmanız gerekir. Yapılandırılan VPC, Genel Amaçlı NAS dosya sistemi için olanla aynı olmalıdır.

   API sürümü hizmetini dağıtma

   {
       "metadata": {
           "name": "sd_async",
           "instance": 1,
           "rpc.worker_threads": 1,
           "type": "Async"
       },
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vpc_id": "vpc-bp1t2wukzskw9139n****",
               "vswitch_id": "vsw-bp12utkudylvp4c70****",
               "security_group_id": "sg-bp11nqxfd0iq6v5g****"
           }
       },
       "queue": {
           "cpu": 1,
           "max_delivery": 1,
           "memory": 4000,
           "resource": ""
       },
       "storage": [
           {
               "oss": {
                   "path": "oss://examplebucket/aohai-singapore/",
                   "readOnly": false
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           },
           {
               "nfs": {
                   "path": "/",
                   "server": "0c9624****-fgh60.cn-hangzhou.nas.aliyuncs.com"
               },
               "properties": {
                   "resource_type": "model"
               },
               "mount_path": "/code/stable-diffusion-webui/data"
           }
       ],
       "containers": [
           {
               "image": "eas-registry-vpc.<region>.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2",
               "script": "./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api-log --time-log --nowebui --data-dir=/code/stable-diffusion-webui/data",
               "port": 8000
           }
       ]
   } 

   API sürümü hizmeti, Standart Sürüm hizmeti yapılandırmasına kıyasla aşağıdaki yapılandırma değişikliklerine sahiptir. Diğer parametre yapılandırmaları Standart Sürüm hizmetiyle aynıdır.

   Parametre	Açıklama
   Aşağıdaki parametreleri silin:
   metadata.enable_webservice	Web hizmetinin etkin olmadığını belirtmek için bu parametreyi silin.
   containers.script	Hizmet başlatmayı hızlandırmak için containers.script yapılandırmasından --filebrowser öğesini silin.
   Aşağıdaki parametreleri ekleyin:
   metadata.type	Asenkron hizmeti etkinleştirmek için Async olarak ayarlayın.
   metadata.rpc.worker_threads	Tek bir örneğin aynı anda yalnızca bir isteği işlemesine izin vermek için 1 olarak ayarlayın.
   queue.max_delivery	Bir mesaj işleme hatasından sonra yeniden denemeleri önlemek için 1 olarak ayarlayın.
   containers.script	Başlatmayı hızlandırmak için --nowebui ve API yanıt sürelerini kaydetmek için --time-log parametrelerini containers.script yapılandırmasına ekleyin.
   Parametre yapılandırmaları hakkında daha fazla bilgi için bkz. Standart Sürüm hizmetini dağıtma.

4. Deploy seçeneğine tıklayın.

Hizmet dağıtıldıktan sonra sistem, bağlanan OSS veya NAS depolama alanında otomatik olarak aşağıdaki dizin yapısını oluşturur.

• api_rec/

• configs/

• extensions/

• images/

• models/

• progress_images/

• requests_folder/

• cache.json

• params.txt

• ui-config.json

Burada:

• models: Bu dizin model dosyalarını depolamak için kullanılır.

• outputs: Bir çıkarım isteği başlatıldıktan sonra sistem, API kodundaki önceden ayarlanmış yapılandırmaya göre sonuç dosyalarını otomatik olarak bu dizine çıktılar.

Açık kaynak topluluklarından indirilen modelleri veya kendi eğittiğiniz LoRA veya Stable Diffusion modellerini yüklemek ve kullanmak üzere belirtilen dizinlerde saklayabilirsiniz. Aşağıdaki adımları izleyin:

1. Model dosyasını, bağlanan depolamanın models dizini altındaki ilgili alt dizine yükleyin. Daha fazla bilgi için bkz. Adım 2: Dosyaları yükleme.

2. Elastic Algorithm Service (EAS) sayfasında, hedef hizmetin Actions sütununda > Restart Service seçeneğine tıklayın. Değişiklikler hizmet başarıyla yeniden başlatıldıktan sonra etkili olur.

3. Stable Diffusion WebUI sayfasında modeli değiştirin ve model çıkarımı doğrulaması gerçekleştirin.

   Stable Diffusion checkpoint açılır listesine tıklayın ve hedef modeli seçin; örneğin chilloutmix_NiPrunedFp32Fix.safetensors veya deliberate_v2.safetensors.

Bir depolama bağlaması olmadan, dosyaların yaşam döngüsü hizmetle aynıdır. Hizmet durdurulursa, yeniden başlatılırsa veya silinirse tüm dosyalar silinir. Bu nedenle, bu dosyaları kaydetmek için OSS veya NAS gibi harici depolama alanı bağlamanızı öneririz.

• Sorunu çözmek için öncelikle Stable Diffusion WebUI arayüzünü yeniden açmayı veya EAS hizmetini yeniden başlatmayı deneyebilirsiniz.

  • Hedef hizmete tıklayarak Overview sayfasına gidin ve sağ üst köşede bulunan Web applications seçeneğine tıklayarak Stable Diffusion WebUI'yi yeniden açın.

  • Hedef hizmetin Actions sütununda > Restart Service seçeneğine tıklayarak EAS hizmetini yeniden başlatın.

• Yeniden başlatma sorunu uzun bir süre sonra çözmezse, bunun nedeni büyük olasılıkla hizmetin modeller veya eklentiler gibi içerikleri İnternet'ten indirmesi gerekliliğidir. Varsayılan olarak EAS genel ağ erişimine sahip değildir. Çalışma zamanı görüntüleri çevrimdışı başlatılabilir ve modellerin bağlanması ağ bağlantısı gerektirmez. Ancak, bazı eklentiler İnternet'ten içerik indirmeye bağlıdır. Bu durumda, günlükleri kontrol ederek modelin veya eklentinin indirme yolunu bulmanızı, manuel olarak indirmenizi ve bağlamak üzere OSS'e yüklemenizi öneririz. Daha fazla bilgi için bkz. S: Kendi modellerimi ve çıktı dizinlerimi nasıl bağlarım?. Hala İnternet'e bağlanmanız gerekiyorsa, genel ağ bağlantısı yapılandırmak için bkz. EAS'ten genel veya iç ağ kaynaklarına erişim.

1. Stable Diffusion WebUI sayfasında Settings seçeneğine tıklayın.

2. Sol gezinme bölmesinde User interface seçeneğine tıklayın. Sağ taraftaki Localization bölümünde None seçeneğini belirleyin.

3. Stable Diffusion WebUI sayfasının üst kısmında Apply settings seçeneğine tıklayın ve ardından Reload UI seçeneğine tıklayın.

   Dili İngilizce olarak değiştirmek için WebUI sayfasını yenileyin.

Standart veya Küme WebUI sürümü hizmeti dağıttığınızda, sistem varsayılan olarak çalıştırma komutuna --filebrowser parametresini ekler. Dosya sisteminizi doğrudan WebUI arayüzü üzerinden yönetebilirsiniz. Aşağıdaki adımları izleyin:

1. Hedef hizmet adına tıklayarak Overview sayfasına gidin ve ardından sağ üst köşede bulunan Web applications seçeneğine tıklayın.

2. Stable Diffusion WebUI sayfasında FileBrowser sekmesine tıklayın. Dosya sistemini doğrudan görüntüleyebilir veya yükleme ve indirme işlemleri gerçekleştirebilirsiniz.

1. Dağıtım sürümünü kontrol edin. API sürümü (görüntü x.x-api) veya Küme WebUI sürümü (görüntü x.x-cluster-webui) ise modeli yapılandırmanız gerekir.

2. Bağlama yolunu kontrol edin. Çalıştırma komutunun --data-dir parametresini içerip içermediğini kontrol edin ve yolunun OSS bağlama yoluyla tutarlı olduğundan emin olun.

   Örneğin, hem OSS bağlama yolunu hem de çalıştırma komutundaki --data-dir parametresini /code/stable-diffusion-webui/data olarak ayarlayın. Çalıştırma komutunun tam bir örneği:

   ./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-prepare-environment --api --filebrowser --cluster-status --data-dir /code/stable-diffusion-webui/data

Hizmet dağıtım sürümünü kontrol edin. API sürümü WebUI'yi desteklemez. Özel bir dağıtım kullanıyorsanız, x.x-api görüntüsü API sürümü içindir.