人工智能平台 PAI：AI视频生成-ComfyUI部署

重要限制与注意事项

部署前必读：了解以下关键限制，以避免资源浪费和常见错误。

• 部署资源：推荐使用GU30、A10或T4卡型，其中ml.gu7i.c16m60.1-gu30性价比高。

  重要

  每个 EAS 实例仅运行一个 ComfyUI 进程，仅支持单张 GPU（单机单卡或多机单卡），不支持多卡并行推理。请勿选择多卡 GPU 规格（如 2*A10 等），这会造成资源浪费且无法提升单任务的性能。

• 水平扩展方式：如需提升并发处理能力，请使用API版并增加副本数量，而非选择多卡规格。

• 存储准备：如需使用自定义模型、安装自定义节点或通过API调用，必须提前创建OSS存储空间或NAS文件系统。详见对象存储OSS快速入门。

  EAS 不支持通过 ComfyUI 管理器或 Git Clone 等方式从网络直接安装自定义节点（插件）。所有自定义内容都必须通过挂载存储的方式上传。

• Serverless 版核心限制：

  • 仅可使用内置模型和插件。如需上传自定义模型或安装第三方节点，请选择标准版、API版或集群版。

  • 仅在华东2（上海）、华东1（杭州）地域可用。

选择部署版本

根据使用场景选择合适的版本：

更多计费详情请参见模型在线服务（EAS）计费说明。

进入Web界面

单击目标服务名称进入概览页面，在右上角单击Web应用。

如页面长时间无法打开，请参见刷新页面时间过长或页面卡死。

使用模板工作流

ComfyUI为常见任务提供预置模板。

1. 选择一个模板（如Wan VACE 文生视频）。

   说明

   ComfyUI不同镜像版本中的模板有差别，若无示例模板，可选择其他模板使用。也可以加载本地文件系统中的工作流使用。

2. 工作流加载成功后，如遇到报错缺少模型，可忽视（建议勾选不再显示此消息）。

3. 由于路径变更，直接运行工作流可能会出现以下报错。

   

   请先在Load models here区域重新选择模型wan2.1_vace_14B_fp16.safetensors与Wan21_CausVid_14B_T2V_lora_rank32.safetensors。

   

4. 工作流运行成功后，会在Save Video区域，展示生成的视频。

使用自定义模型和节点

1. 确认服务已配置存储挂载。如使用自定义部署，需在运行命令中增加参数--data-dir挂载目录，详情见方式二：自定义模型部署。

   服务部署成功后，系统会自动在已挂载的OSS或NAS存储空间中创建如下目录结构。

   data-oss/
   ├── custom_nodes/     # 存放节点文件（ComfyUI插件）
   ├── models/           # 存放模型文件
   ├── input/
   ├── output/
   ├── unet/
   └── temp/

2. 上传模型或节点文件。以OSS为例，可控制台上传文件到OSS。对于大文件，请参见如何上传大文件到OSS？。

   • 模型文件上传：根据模型使用节点的源项目库使用说明，将模型上传至models下的对应子目录。例如：

     • Checkpoint加载器：模型上传至models/checkpoints。

     • 风格模型加载器：模型上传至models/styles。

   • 节点文件上传：推荐您将自定义节点上传至挂载存储的custom_nodes目录。

3. 加载新内容。

   • 模型：单击PaiCustom>加载新模型，如仍然找不到模型，单击重启进程，重启成功后，刷新浏览器页面。

   • 节点：直接单击重启进程。重启成功后，刷新浏览器页面。

导出工作流

在WebUI中调试好工作流后，将工作流保存为一个JSON文件，用于后续的API调用。

API调用概述

通过API调用ComfyUI服务，可将其集成到您的应用中实现自动化内容生成。核心流程：提交工作流JSON → 获取任务ID → 用任务ID获取生成结果。

关键准备工作：ComfyUI的API请求体取决于工作流配置。请先在WebUI页面设置并导出工作流的JSON文件。

结果下载：生成的图片或视频存储在挂载的output目录中，API调用的结果返回的是文件名和子目录名。对于OSS，需自行拼接完整的文件路径进行下载，请参见使用阿里云SDK下载OSS文件。

准备API请求体

根据调用方式的不同，请求体格式有所差异：

• 同步调用：请求体需要将工作流JSON文件内容包装在"prompt"键值下面。

• 异步调用：请求体就是工作流JSON文件内容。

因为上述Wan VACE Text to Video的工作流运行比较耗时，为方便测试提供以下工作流（运行一次需要约3分钟）。

{
    "prompt": {
        "3": {
            "inputs": {
                "seed": 423988542100860,
                "steps": 40,
                "cfg": 7,
                "sampler_name": "dpmpp_sde_gpu",
                "scheduler": "karras",
                "denoise": 1,
                "model": [
                    "4",
                    0
                ],
                "positive": [
                    "6",
                    0
                ],
                "negative": [
                    "7",
                    0
                ],
                "latent_image": [
                    "5",
                    0
                ]
            },
            "class_type": "KSampler",
            "_meta": {
                "title": "K采样器"
            }
        },
        "4": {
            "inputs": {
                "ckpt_name": "LandscapeBING_v10.safetensors"
            },
            "class_type": "CheckpointLoaderSimple",
            "_meta": {
                "title": "Checkpoint加载器(简易)"
            }
        },
        "5": {
            "inputs": {
                "width": 720,
                "height": 1280,
                "batch_size": 1
            },
            "class_type": "EmptyLatentImage",
            "_meta": {
                "title": "空Latent"
            }
        },
        "6": {
            "inputs": {
                "text": "Rocket takes off from the ground, fire，sky, airplane",
                "speak_and_recognation": {
                    "__value__": [
                        false,
                        true
                    ]
                },
                "clip": [
                    "4",
                    1
                ]
            },
            "class_type": "CLIPTextEncode",
            "_meta": {
                "title": "CLIP文本编码器"
            }
        },
        "7": {
            "inputs": {
                "text": "",
                "speak_and_recognation": {
                    "__value__": [
                        false,
                        true
                    ]
                },
                "clip": [
                    "4",
                    1
                ]
            },
            "class_type": "CLIPTextEncode",
            "_meta": {
                "title": "CLIP文本编码器"
            }
        },
        "8": {
            "inputs": {
                "samples": [
                    "3",
                    0
                ],
                "vae": [
                    "4",
                    2
                ]
            },
            "class_type": "VAEDecode",
            "_meta": {
                "title": "VAE解码"
            }
        },
        "9": {
            "inputs": {
                "filename_prefix": "ComfyUI",
                "images": [
                    "8",
                    0
                ]
            },
            "class_type": "SaveImage",
            "_meta": {
                "title": "保存图像"
            }
        },
        "13": {
            "inputs": {
                "seed": 788620942678235,
                "steps": 40,
                "cfg": 2.5,
                "sampler_name": "euler_ancestral",
                "scheduler": "karras",
                "denoise": 1,
                "model": [
                    "17",
                    0
                ],
                "positive": [
                    "16",
                    0
                ],
                "negative": [
                    "16",
                    1
                ],
                "latent_image": [
                    "16",
                    2
                ]
            },
            "class_type": "KSampler",
            "_meta": {
                "title": "K采样器"
            }
        },
        "14": {
            "inputs": {
                "samples": [
                    "13",
                    0
                ],
                "vae": [
                    "18",
                    2
                ]
            },
            "class_type": "VAEDecode",
            "_meta": {
                "title": "VAE解码"
            }
        },
        "15": {
            "inputs": {
                "filename_prefix": "ComfyUI",
                "fps": 10.000000000000002,
                "lossless": false,
                "quality": 85,
                "method": "default",
                "images": [
                    "14",
                    0
                ]
            },
            "class_type": "SaveAnimatedWEBP",
            "_meta": {
                "title": "保存WEBP"
            }
        },
        "16": {
            "inputs": {
                "width": 512,
                "height": 768,
                "video_frames": 35,
                "motion_bucket_id": 140,
                "fps": 15,
                "augmentation_level": 0.15000000000000002,
                "clip_vision": [
                    "18",
                    1
                ],
                "init_image": [
                    "8",
                    0
                ],
                "vae": [
                    "18",
                    2
                ]
            },
            "class_type": "SVD_img2vid_Conditioning",
            "_meta": {
                "title": "SVD_图像到视频_条件"
            }
        },
        "17": {
            "inputs": {
                "min_cfg": 1,
                "model": [
                    "18",
                    0
                ]
            },
            "class_type": "VideoLinearCFGGuidance",
            "_meta": {
                "title": "线性CFG引导"
            }
        },
        "18": {
            "inputs": {
                "ckpt_name": "svd_xt.safetensors"
            },
            "class_type": "ImageOnlyCheckpointLoader",
            "_meta": {
                "title": "Checkpoint加载器(仅图像)"
            }
        },
        "19": {
            "inputs": {
                "frame_rate": 10,
                "loop_count": 0,
                "filename_prefix": "comfyUI",
                "format": "video/h264-mp4",
                "pix_fmt": "yuv420p",
                "crf": 20,
                "save_metadata": true,
                "trim_to_audio": false,
                "pingpong": false,
                "save_output": true,
                "images": [
                    "14",
                    0
                ]
            },
            "class_type": "VHS_VideoCombine",
            "_meta": {
                "title": "合并为视频"
            }
        }
    }
}

{
    "3": {
        "inputs": {
            "seed": 423988542100860,
            "steps": 40,
            "cfg": 7,
            "sampler_name": "dpmpp_sde_gpu",
            "scheduler": "karras",
            "denoise": 1,
            "model": [
                "4",
                0
            ],
            "positive": [
                "6",
                0
            ],
            "negative": [
                "7",
                0
            ],
            "latent_image": [
                "5",
                0
            ]
        },
        "class_type": "KSampler",
        "_meta": {
            "title": "K采样器"
        }
    },
    "4": {
        "inputs": {
            "ckpt_name": "LandscapeBING_v10.safetensors"
        },
        "class_type": "CheckpointLoaderSimple",
        "_meta": {
            "title": "Checkpoint加载器(简易)"
        }
    },
    "5": {
        "inputs": {
            "width": 720,
            "height": 1280,
            "batch_size": 1
        },
        "class_type": "EmptyLatentImage",
        "_meta": {
            "title": "空Latent"
        }
    },
    "6": {
        "inputs": {
            "text": "Rocket takes off from the ground, fire，sky, airplane",
            "speak_and_recognation": {
                "__value__": [
                    false,
                    true
                ]
            },
            "clip": [
                "4",
                1
            ]
        },
        "class_type": "CLIPTextEncode",
        "_meta": {
            "title": "CLIP文本编码器"
        }
    },
    "7": {
        "inputs": {
            "text": "",
            "speak_and_recognation": {
                "__value__": [
                    false,
                    true
                ]
            },
            "clip": [
                "4",
                1
            ]
        },
        "class_type": "CLIPTextEncode",
        "_meta": {
            "title": "CLIP文本编码器"
        }
    },
    "8": {
        "inputs": {
            "samples": [
                "3",
                0
            ],
            "vae": [
                "4",
                2
            ]
        },
        "class_type": "VAEDecode",
        "_meta": {
            "title": "VAE解码"
        }
    },
    "9": {
        "inputs": {
            "filename_prefix": "ComfyUI",
            "images": [
                "8",
                0
            ]
        },
        "class_type": "SaveImage",
        "_meta": {
            "title": "保存图像"
        }
    },
    "13": {
        "inputs": {
            "seed": 788620942678235,
            "steps": 40,
            "cfg": 2.5,
            "sampler_name": "euler_ancestral",
            "scheduler": "karras",
            "denoise": 1,
            "model": [
                "17",
                0
            ],
            "positive": [
                "16",
                0
            ],
            "negative": [
                "16",
                1
            ],
            "latent_image": [
                "16",
                2
            ]
        },
        "class_type": "KSampler",
        "_meta": {
            "title": "K采样器"
        }
    },
    "14": {
        "inputs": {
            "samples": [
                "13",
                0
            ],
            "vae": [
                "18",
                2
            ]
        },
        "class_type": "VAEDecode",
        "_meta": {
            "title": "VAE解码"
        }
    },
    "15": {
        "inputs": {
            "filename_prefix": "ComfyUI",
            "fps": 10.000000000000002,
            "lossless": false,
            "quality": 85,
            "method": "default",
            "images": [
                "14",
                0
            ]
        },
        "class_type": "SaveAnimatedWEBP",
        "_meta": {
            "title": "保存WEBP"
        }
    },
    "16": {
        "inputs": {
            "width": 512,
            "height": 768,
            "video_frames": 35,
            "motion_bucket_id": 140,
            "fps": 15,
            "augmentation_level": 0.15000000000000002,
            "clip_vision": [
                "18",
                1
            ],
            "init_image": [
                "8",
                0
            ],
            "vae": [
                "18",
                2
            ]
        },
        "class_type": "SVD_img2vid_Conditioning",
        "_meta": {
            "title": "SVD_图像到视频_条件"
        }
    },
    "17": {
        "inputs": {
            "min_cfg": 1,
            "model": [
                "18",
                0
            ]
        },
        "class_type": "VideoLinearCFGGuidance",
        "_meta": {
            "title": "线性CFG引导"
        }
    },
    "18": {
        "inputs": {
            "ckpt_name": "svd_xt.safetensors"
        },
        "class_type": "ImageOnlyCheckpointLoader",
        "_meta": {
            "title": "Checkpoint加载器(仅图像)"
        }
    },
    "19": {
        "inputs": {
            "frame_rate": 10,
            "loop_count": 0,
            "filename_prefix": "comfyUI",
            "format": "video/h264-mp4",
            "pix_fmt": "yuv420p",
            "crf": 20,
            "save_metadata": true,
            "trim_to_audio": false,
            "pingpong": false,
            "save_output": true,
            "images": [
                "14",
                0
            ]
        },
        "class_type": "VHS_VideoCombine",
        "_meta": {
            "title": "合并为视频"
        }
    }
}

同步调用

同步调用直接向EAS服务实例发送请求，适合开发测试和低并发场景。

异步调用

异步调用适用于生产环境高并发场景，基于EAS队列服务实现负载均衡。提交请求后立即返回，通过订阅结果队列获取生成结果。

1. 查看调用信息。

   在推理服务页签，单击目标服务名称进入概览页面，在基本信息区域单击查看调用信息。在调用信息对话框的异步调用页签，查看服务访问地址和Token。

   

   下文使用<EAS_ENDPOINT>指代公网输入调用地址（如果调用端与EAS处于同一VPC，可使用VPC输入调用地址），<EAS_TOKEN>指代Token。

2. 发送请求。

   代码示例如下：

   import requests
   import json
   
   service_url = "<EAS_ENDPOINT>"
   token = "<EAS_TOKEN>"
   
   if service_url[-1] == "/":
       service_url = service_url[:-1]
   
   session = requests.session()
   session.headers.update({"Authorization":token})
   
   # 请求体-工作流JSON,无需"prompt"包装。
   # 使用 """ """ 将其定义为多行字符串，否则需要将工作流JSON中布尔值（true和false）的首字母改为大写。
   payload = """{
       '3': 
       ...省略
     }
     """
   payload = json.loads(payload)
   
   for i in range(5):
     # task_id是标识请求和结果的关键标志，请给每个请求分配一个唯一的值，以对应后面的队列结果
     response = session.post(url=f'{service_url}/api_prompt?task_id=txt2img_{i}', json=payload)
     if response.status_code != 200:
       exit(f"send request error:{response.content}")
     else:
       print(f"send {i} success, index is {response.content}")

3. 订阅结果。

   1. 安装eas_prediction SDK。

      pip install eas_prediction  --user

   2. 执行以下代码，获取返回结果。

      from eas_prediction import QueueClient
      from urllib.parse import urlparse, urlunparse
      
      service_url     = "<EAS_ENDPOINT>"
      token           = "<EAS_TOKEN>"
      
      # 解析服务URL
      def parse_service_url(service_url):
          parsed = urlparse(service_url)
          service_domain = f"{parsed.scheme}://{parsed.netloc}"
          path_parts = [p for p in parsed.path.strip('/').split('/') if p]
          service_name = path_parts[-1]
          return service_domain, service_name
      
      service_domain, service_name = parse_service_url(service_url)
      print(f"service_domain: {service_domain}, service_name: {service_name}.")
         
      # 创建结果队列客户端 
      sink_queue = QueueClient(service_domain, f'{service_name}/sink')
      sink_queue.set_token(token)
      sink_queue.init()
      
      # 监听结果
      watcher = sink_queue.watch(0, 5, auto_commit=False)
      for x in watcher.run():
          if 'task_id' in x.tags:
              print('index {} task_id is {}'.format(x.index, x.tags['task_id']))
          print(f'index {x.index} data is {x.data}')
          # 提交确认接收
          sink_queue.commit(x.index)

      返回结果示例如下：

      index 42 task_id is txt2img_0
      index 42 data is b'[{"type": "executed", "data": {"node": "9", "output": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "15", "output": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "19", "output": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 43 task_id is txt2img_1
      index 43 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 44 task_id is txt2img_2
      index 44 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 45 task_id is txt2img_3
      index 45 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 46 task_id is txt2img_4
      index 46 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'

      您可以在挂载存储的output目录中，查看推理结果文件。

部署问题

模型与节点问题

运行异常

其他

安装Python包

更新镜像版本

若服务挂载OSS或者NAS存储空间，自定义模型保留在OSS或者NAS存储空间，更新镜像版本不会影响已安装的自定义模型。

1. 在服务详情页右上角单击更新。

2. 如通过场景化方法部署，请切换为自定义部署。

3. 在服务配置区域，编辑JSON配置并更新containers的image字段，如图将1.9改成需要的版本。

4. 单击直接更新。

延长无登录态的URL时间

可通过API获取指定有效时长的免登录Web访问链接。

1. 进入DescribeServiceSignedUrl API页面。

2. 选择服务地址。

3. 设置参数：

   • ClusterId服务所在区域、ServiceName 服务名字：填写服务所在区域与服务名字。如下从EAS服务概览页面获取。

     

   • Type 页面类型：下拉选择 webview。

   • Expire 过期时间：填写整数，单位为秒。目前最长只能是43200秒（12小时），建议按需填写。

   • Internal 是否为VPC链接：false（公网访问）或true（VPC访问）。

4. 单击发起调用，返回结果中SignedUrl为服务免登录Web访问链接。

切换WebUI页面的默认语言

集群版服务原理介绍

实现原理图如下：

集群版服务主要针对多用户场景，通过引入一个 Proxy 代理层，实现了客户端和后端推理实例解耦。

• 每个用户有独立的后端环境和工作目录，但共享后端的GPU推理实例池。

• 当用户发起推理请求时，Proxy 代理会从池中寻找一个空闲的实例来处理该请求。

这种分时复用机制在保证用户环境隔离的同时，有效提升了 GPU 资源的利用率，降低了多用户场景下的推理成本。