Platform For AI：AI視頻產生-ComfyUI部署

重要限制與注意事項

部署前必讀：瞭解以下關鍵限制，以避免資源浪費和常見錯誤。

• 部署資源：推薦使用GU30、A10或T4卡型，其中ml.gu7i.c16m60.1-gu30性價比高。

  重要

  每個 EAS 執行個體僅運行一個 ComfyUI 進程，僅支援單張 GPU（單機單卡或多機單卡），不支援多卡並行推理。請勿選擇多卡 GPU 規格（如 2*A10 等），這會造成資源浪費且無法提升單任務的效能。

• 水平擴充方式：如需提升並發處理能力，請使用API版並增加副本數量，而非選擇多卡規格。

• 儲存準備：如需使用自訂模型、安裝自訂節點或通過API調用，必須提前建立OSS儲存空間或NAS檔案系統。詳見Object Storage Service快速入門。

  EAS 不支援通過 ComfyUI 管理器或 Git Clone 等方式從網路直接安裝自訂節點（外掛程式）。所有自訂內容都必須通過掛載儲存的方式上傳。

• Serverless 版核心限制：

  • 僅可使用內建模型和外掛程式。如需上傳自訂模型或安裝第三方節點，請選擇標準版、API版或叢集版。

  • 僅在華東2（上海）、華東1（杭州）地區可用。

選擇部署版本

根據使用情境選擇合適的版本：

更多計費詳情請參見模型線上服務（EAS）計費說明。

進入Web介面

單擊目標服務名稱進入概览頁面，在右上方單擊Web应用。

如頁面長時間無法開啟，請參見重新整理頁面時間過長或頁面卡死。

使用模板工作流程

ComfyUI為常見任務提供預置模板。

1. 選擇一個模板（如Wan VACE 文生視頻）。

   說明

   ComfyUI不同鏡像版本中的模板有差別，若無樣本模板，可選擇其他模板使用。也可以載入本地檔案系統中的工作流程使用。

2. 工作流程載入成功後，如遇到報錯缺少模型，可忽視（建議勾選不再顯示此訊息）。

3. 由於路徑變更，直接運行工作流程可能會出現以下報錯。

   

   請先在Load models here地區重新選擇模型wan2.1_vace_14B_fp16.safetensors與Wan21_CausVid_14B_T2V_lora_rank32.safetensors。

   

4. 工作流程運行成功後，會在Save Video地區，展示產生的視頻。

使用自訂模型和節點

1. 確認服務已配置儲存掛載。如使用自訂部署，需在运行命令中增加參數--data-dir掛載目錄，詳情見方式二：自訂模型部署。

   服務部署成功後，系統會自動在已掛載的OSS或NAS儲存空間中建立如下目錄結構。

   data-oss/
   ├── custom_nodes/     # 存放節點檔案（ComfyUI外掛程式）
   ├── models/           # 存放模型檔案
   ├── input/
   ├── output/
   ├── unet/
   └── temp/

2. 上傳模型或節點檔案。以OSS為例，可控制台上傳檔案到OSS。對於大檔案，請參見How do I upload large objects to OSS?。

   • 模型檔案上傳：根據模型使用節點的源專案庫使用說明，將模型上傳至models下的對應子目錄。例如：

     • Checkpoint載入器：模型上傳至models/checkpoints。

     • 風格模型載入器：模型上傳至models/styles。

   • 節點檔案上傳：推薦您將自訂節點上傳至掛載儲存的custom_nodes目錄。

3. 載入新內容。

   • 模型：單擊PaiCustom>載入新模型，如仍然找不到模型，單擊重啟進程，重啟成功後，重新整理瀏覽器頁面。

   • 節點：直接單擊重啟進程。重啟成功後，重新整理瀏覽器頁面。

匯出工作流程

在WebUI中調試好工作流程後，將工作流程儲存為一個JSON檔案，用於後續的API調用。

API調用概述

通過API調用ComfyUI服務，可將其整合到您的應用中實現自動化內容產生。核心流程：提交工作流程JSON → 擷取任務ID → 用任務ID擷取產生結果。

關鍵準備工作：ComfyUI的API請求體取決於工作流程配置。請先在WebUI版面設定並匯出工作流程的JSON檔案。

結果下載：產生的圖片或視頻儲存在掛載的output目錄中，API調用的結果返回的是檔案名稱和子目錄名。對於OSS，需自行拼接完整的檔案路徑進行下載，請參見使用阿里雲SDK下載OSS檔案。

準備API請求體

根據調用方式的不同，請求體格式有所差異：

• 同步調用：請求體需要將工作流程JSON檔案內容封裝在"prompt"索引值下面。

• 非同步呼叫：請求體就是工作流程JSON檔案內容。

因為上述Wan VACE Text to Video的工作流程運行比較耗時，為方便測試提供以下工作流程（運行一次需要約3分鐘）。

{
    "prompt": {
        "3": {
            "inputs": {
                "seed": 423988542100860,
                "steps": 40,
                "cfg": 7,
                "sampler_name": "dpmpp_sde_gpu",
                "scheduler": "karras",
                "denoise": 1,
                "model": [
                    "4",
                    0
                ],
                "positive": [
                    "6",
                    0
                ],
                "negative": [
                    "7",
                    0
                ],
                "latent_image": [
                    "5",
                    0
                ]
            },
            "class_type": "KSampler",
            "_meta": {
                "title": "K採樣器"
            }
        },
        "4": {
            "inputs": {
                "ckpt_name": "LandscapeBING_v10.safetensors"
            },
            "class_type": "CheckpointLoaderSimple",
            "_meta": {
                "title": "Checkpoint載入器(簡易)"
            }
        },
        "5": {
            "inputs": {
                "width": 720,
                "height": 1280,
                "batch_size": 1
            },
            "class_type": "EmptyLatentImage",
            "_meta": {
                "title": "空Latent"
            }
        },
        "6": {
            "inputs": {
                "text": "Rocket takes off from the ground, fire，sky, airplane",
                "speak_and_recognation": {
                    "__value__": [
                        false,
                        true
                    ]
                },
                "clip": [
                    "4",
                    1
                ]
            },
            "class_type": "CLIPTextEncode",
            "_meta": {
                "title": "CLIP文本編碼器"
            }
        },
        "7": {
            "inputs": {
                "text": "",
                "speak_and_recognation": {
                    "__value__": [
                        false,
                        true
                    ]
                },
                "clip": [
                    "4",
                    1
                ]
            },
            "class_type": "CLIPTextEncode",
            "_meta": {
                "title": "CLIP文本編碼器"
            }
        },
        "8": {
            "inputs": {
                "samples": [
                    "3",
                    0
                ],
                "vae": [
                    "4",
                    2
                ]
            },
            "class_type": "VAEDecode",
            "_meta": {
                "title": "VAE解碼"
            }
        },
        "9": {
            "inputs": {
                "filename_prefix": "ComfyUI",
                "images": [
                    "8",
                    0
                ]
            },
            "class_type": "SaveImage",
            "_meta": {
                "title": "儲存映像"
            }
        },
        "13": {
            "inputs": {
                "seed": 788620942678235,
                "steps": 40,
                "cfg": 2.5,
                "sampler_name": "euler_ancestral",
                "scheduler": "karras",
                "denoise": 1,
                "model": [
                    "17",
                    0
                ],
                "positive": [
                    "16",
                    0
                ],
                "negative": [
                    "16",
                    1
                ],
                "latent_image": [
                    "16",
                    2
                ]
            },
            "class_type": "KSampler",
            "_meta": {
                "title": "K採樣器"
            }
        },
        "14": {
            "inputs": {
                "samples": [
                    "13",
                    0
                ],
                "vae": [
                    "18",
                    2
                ]
            },
            "class_type": "VAEDecode",
            "_meta": {
                "title": "VAE解碼"
            }
        },
        "15": {
            "inputs": {
                "filename_prefix": "ComfyUI",
                "fps": 10.000000000000002,
                "lossless": false,
                "quality": 85,
                "method": "default",
                "images": [
                    "14",
                    0
                ]
            },
            "class_type": "SaveAnimatedWEBP",
            "_meta": {
                "title": "儲存WEBP"
            }
        },
        "16": {
            "inputs": {
                "width": 512,
                "height": 768,
                "video_frames": 35,
                "motion_bucket_id": 140,
                "fps": 15,
                "augmentation_level": 0.15000000000000002,
                "clip_vision": [
                    "18",
                    1
                ],
                "init_image": [
                    "8",
                    0
                ],
                "vae": [
                    "18",
                    2
                ]
            },
            "class_type": "SVD_img2vid_Conditioning",
            "_meta": {
                "title": "SVD_映像到視頻_條件"
            }
        },
        "17": {
            "inputs": {
                "min_cfg": 1,
                "model": [
                    "18",
                    0
                ]
            },
            "class_type": "VideoLinearCFGGuidance",
            "_meta": {
                "title": "線性CFG引導"
            }
        },
        "18": {
            "inputs": {
                "ckpt_name": "svd_xt.safetensors"
            },
            "class_type": "ImageOnlyCheckpointLoader",
            "_meta": {
                "title": "Checkpoint載入器(僅映像)"
            }
        },
        "19": {
            "inputs": {
                "frame_rate": 10,
                "loop_count": 0,
                "filename_prefix": "comfyUI",
                "format": "video/h264-mp4",
                "pix_fmt": "yuv420p",
                "crf": 20,
                "save_metadata": true,
                "trim_to_audio": false,
                "pingpong": false,
                "save_output": true,
                "images": [
                    "14",
                    0
                ]
            },
            "class_type": "VHS_VideoCombine",
            "_meta": {
                "title": "合并為視頻"
            }
        }
    }
}

{
    "3": {
        "inputs": {
            "seed": 423988542100860,
            "steps": 40,
            "cfg": 7,
            "sampler_name": "dpmpp_sde_gpu",
            "scheduler": "karras",
            "denoise": 1,
            "model": [
                "4",
                0
            ],
            "positive": [
                "6",
                0
            ],
            "negative": [
                "7",
                0
            ],
            "latent_image": [
                "5",
                0
            ]
        },
        "class_type": "KSampler",
        "_meta": {
            "title": "K採樣器"
        }
    },
    "4": {
        "inputs": {
            "ckpt_name": "LandscapeBING_v10.safetensors"
        },
        "class_type": "CheckpointLoaderSimple",
        "_meta": {
            "title": "Checkpoint載入器(簡易)"
        }
    },
    "5": {
        "inputs": {
            "width": 720,
            "height": 1280,
            "batch_size": 1
        },
        "class_type": "EmptyLatentImage",
        "_meta": {
            "title": "空Latent"
        }
    },
    "6": {
        "inputs": {
            "text": "Rocket takes off from the ground, fire，sky, airplane",
            "speak_and_recognation": {
                "__value__": [
                    false,
                    true
                ]
            },
            "clip": [
                "4",
                1
            ]
        },
        "class_type": "CLIPTextEncode",
        "_meta": {
            "title": "CLIP文本編碼器"
        }
    },
    "7": {
        "inputs": {
            "text": "",
            "speak_and_recognation": {
                "__value__": [
                    false,
                    true
                ]
            },
            "clip": [
                "4",
                1
            ]
        },
        "class_type": "CLIPTextEncode",
        "_meta": {
            "title": "CLIP文本編碼器"
        }
    },
    "8": {
        "inputs": {
            "samples": [
                "3",
                0
            ],
            "vae": [
                "4",
                2
            ]
        },
        "class_type": "VAEDecode",
        "_meta": {
            "title": "VAE解碼"
        }
    },
    "9": {
        "inputs": {
            "filename_prefix": "ComfyUI",
            "images": [
                "8",
                0
            ]
        },
        "class_type": "SaveImage",
        "_meta": {
            "title": "儲存映像"
        }
    },
    "13": {
        "inputs": {
            "seed": 788620942678235,
            "steps": 40,
            "cfg": 2.5,
            "sampler_name": "euler_ancestral",
            "scheduler": "karras",
            "denoise": 1,
            "model": [
                "17",
                0
            ],
            "positive": [
                "16",
                0
            ],
            "negative": [
                "16",
                1
            ],
            "latent_image": [
                "16",
                2
            ]
        },
        "class_type": "KSampler",
        "_meta": {
            "title": "K採樣器"
        }
    },
    "14": {
        "inputs": {
            "samples": [
                "13",
                0
            ],
            "vae": [
                "18",
                2
            ]
        },
        "class_type": "VAEDecode",
        "_meta": {
            "title": "VAE解碼"
        }
    },
    "15": {
        "inputs": {
            "filename_prefix": "ComfyUI",
            "fps": 10.000000000000002,
            "lossless": false,
            "quality": 85,
            "method": "default",
            "images": [
                "14",
                0
            ]
        },
        "class_type": "SaveAnimatedWEBP",
        "_meta": {
            "title": "儲存WEBP"
        }
    },
    "16": {
        "inputs": {
            "width": 512,
            "height": 768,
            "video_frames": 35,
            "motion_bucket_id": 140,
            "fps": 15,
            "augmentation_level": 0.15000000000000002,
            "clip_vision": [
                "18",
                1
            ],
            "init_image": [
                "8",
                0
            ],
            "vae": [
                "18",
                2
            ]
        },
        "class_type": "SVD_img2vid_Conditioning",
        "_meta": {
            "title": "SVD_映像到視頻_條件"
        }
    },
    "17": {
        "inputs": {
            "min_cfg": 1,
            "model": [
                "18",
                0
            ]
        },
        "class_type": "VideoLinearCFGGuidance",
        "_meta": {
            "title": "線性CFG引導"
        }
    },
    "18": {
        "inputs": {
            "ckpt_name": "svd_xt.safetensors"
        },
        "class_type": "ImageOnlyCheckpointLoader",
        "_meta": {
            "title": "Checkpoint載入器(僅映像)"
        }
    },
    "19": {
        "inputs": {
            "frame_rate": 10,
            "loop_count": 0,
            "filename_prefix": "comfyUI",
            "format": "video/h264-mp4",
            "pix_fmt": "yuv420p",
            "crf": 20,
            "save_metadata": true,
            "trim_to_audio": false,
            "pingpong": false,
            "save_output": true,
            "images": [
                "14",
                0
            ]
        },
        "class_type": "VHS_VideoCombine",
        "_meta": {
            "title": "合并為視頻"
        }
    }
}

同步調用

同步調用直接向EAS服務執行個體發送請求，適合開發測試和低並發情境。

非同步呼叫

非同步呼叫適用於生產環境高並發情境，基於EAS佇列服務實現負載平衡。提交請求後立即返回，通過訂閱結果隊列擷取產生結果。

1. 查看調用資訊。

   在推理服务頁簽，單擊目標服務名稱進入概览頁面，在基本信息地區單擊查看调用信息。在调用信息對話方塊的异步调用頁簽，查看服務訪問地址和Token。

   

   下文使用<EAS_ENDPOINT>指代公网输入调用地址（如果調用端與EAS處於同一VPC，可使用VPC输入调用地址），<EAS_TOKEN>指代Token。

2. 發送請求。

   程式碼範例如下：

   import requests
   import json
   
   service_url = "<EAS_ENDPOINT>"
   token = "<EAS_TOKEN>"
   
   if service_url[-1] == "/":
       service_url = service_url[:-1]
   
   session = requests.session()
   session.headers.update({"Authorization":token})
   
   # 請求體-工作流程JSON,無需"prompt"封裝。
   # 使用 """ """ 將其定義為多行字串，否則需要將工作流程JSON中布爾值（true和false）的首字母改為大寫。
   payload = """{
       '3': 
       ...省略
     }
     """
   payload = json.loads(payload)
   
   for i in range(5):
     # task_id是標識請求和結果的關鍵標誌，請給每個請求分配一個唯一的值，以對應後面的隊列結果
     response = session.post(url=f'{service_url}/api_prompt?task_id=txt2img_{i}', json=payload)
     if response.status_code != 200:
       exit(f"send request error:{response.content}")
     else:
       print(f"send {i} success, index is {response.content}")

3. 訂閱結果。

   1. 安裝eas_prediction SDK。

      pip install eas_prediction  --user

   2. 執行以下代碼，擷取返回結果。

      from eas_prediction import QueueClient
      from urllib.parse import urlparse, urlunparse
      
      service_url     = "<EAS_ENDPOINT>"
      token           = "<EAS_TOKEN>"
      
      # 解析服務URL
      def parse_service_url(service_url):
          parsed = urlparse(service_url)
          service_domain = f"{parsed.scheme}://{parsed.netloc}"
          path_parts = [p for p in parsed.path.strip('/').split('/') if p]
          service_name = path_parts[-1]
          return service_domain, service_name
      
      service_domain, service_name = parse_service_url(service_url)
      print(f"service_domain: {service_domain}, service_name: {service_name}.")
         
      # 建立結果隊列用戶端 
      sink_queue = QueueClient(service_domain, f'{service_name}/sink')
      sink_queue.set_token(token)
      sink_queue.init()
      
      # 監聽結果
      watcher = sink_queue.watch(0, 5, auto_commit=False)
      for x in watcher.run():
          if 'task_id' in x.tags:
              print('index {} task_id is {}'.format(x.index, x.tags['task_id']))
          print(f'index {x.index} data is {x.data}')
          # 提交確認接收
          sink_queue.commit(x.index)

      返回結果樣本如下：

      index 42 task_id is txt2img_0
      index 42 data is b'[{"type": "executed", "data": {"node": "9", "output": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "15", "output": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "19", "output": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 43 task_id is txt2img_1
      index 43 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 44 task_id is txt2img_2
      index 44 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 45 task_id is txt2img_3
      index 45 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 46 task_id is txt2img_4
      index 46 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'

      您可以在掛載儲存的output目錄中，查看推理結果檔案。

部署問題

模型與節點問題

運行異常

其他

安裝Python包

更新鏡像版本

若服務掛載OSS或者NAS儲存空間，自訂模型保留在OSS或者NAS儲存空間，更新鏡像版本不會影響已安裝的自訂模型。

1. 在服務詳情頁右上方單擊更新。

2. 如通過情境化方法部署，請切換為自訂部署。

3. 在服务配置地區，編輯JSON配置並更新containers的image欄位，如圖將1.9改成需要的版本。

4. 單擊直接更新。

延長無登入態的URL時間

可通過API擷取指定有效時間長度的免登入Web訪問連結。

1. 進入DescribeServiceSignedUrl API頁面。

2. 選擇服務地址。

3. 設定參數：

   • ClusterId服務所在地區、ServiceName 服務名字：填寫服務所在地區與服務名字。如下從EAS服務概覽頁面擷取。

     

   • Type 頁面類型：下拉選擇 webview。

   • Expire 到期時間：填寫整數，單位為秒。目前最長只能是43200秒（12小時），建議按需填寫。

   • Internal 是否為VPC連結：false（公網訪問）或true（VPC訪問）。

4. 單擊發起調用，返回結果中SignedUrl為服務免登入Web訪問連結。

切換WebUI頁面的預設語言

叢集版服務原理介紹

實現原理圖如下：

叢集版服務主要針對多使用者情境，通過引入一個 Proxy 代理層，實現了用戶端和後端推理執行個體解耦。

• 每個使用者有獨立的後端環境和工作目錄，但共用後端的GPU推理執行個體池。

• 當使用者發起推理請求時，Proxy 代理會從池中尋找一個閒置執行個體來處理該請求。

這種分時複用機制在保證使用者環境隔離的同時，有效提升了 GPU 資源的利用率，降低了多使用者情境下的推理成本。