全部产品
Search
文档中心

GPU 云服务器:GPU计算型

更新时间:May 22, 2023

本章节介绍云服务器ECS GPU计算型实例规格族的特点,并列出了具体的实例规格。

GPU计算型实例规格族gn7s

gn7s的特点如下:
  • 采用全新的Intel Icelake处理器,同时搭载Nvidia Ampere架构的NVIDIA A30 GPU卡,您可以根据需要选择不同卡数和不同CPU资源的规格,灵活适应不同的AI业务需求。
  • 基于阿里云全新的第三代神龙架构,VPC和云盘网络带宽相比上一代平均提升一倍。
  • 计算:
    • 采用NVIDIA A30 GPU卡
      • 创新的Nvidia Ampere架构
      • 支持MIG(Multi-Instance GPU)功能、加速功能(基于第二代Tensor core加速),提供多种业务支撑。
    • 处理器:2.9 GHz主频的Intel ® Xeon ® 可扩展处理器(Ice Lake),全核睿频3.5 GHz
    • 容量内存相比上一代实例规格族大幅提升
  • 存储:仅支持ESSD云盘
    说明 更多云盘性能信息,请参见块存储性能
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:配备高性能CPU、内存、GPU,可以处理更多并发AI推理业务需求,适用于图像识别、语音识别、行为识别业务。
gn7s包括的实例规格及指标数据如下表所示:
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS单网卡支持的IPv6地址数多队列弹性网卡
ecs.gn7s-c8g1.2xlarge860NVIDIA A30 * 124GB * 116600万1128
ecs.gn7s-c16g1.4xlarge16120NVIDIA A30 * 124GB * 116600万1128
ecs.gn7s-c32g1.8xlarge32250NVIDIA A30 * 124GB * 116600万1128
ecs.gn7s-c32g1.16xlarge64500NVIDIA A30 * 224GB * 2321200万11615
ecs.gn7s-c32g1.32xlarge1281000NVIDIA A30 * 424GB * 4642400万13215
ecs.gn7s-c48g1.12xlarge48380NVIDIA A30 * 124GB * 116600万1128
ecs.gn7s-c56g1.14xlarge56440NVIDIA A30 * 124GB * 116600万1128
说明

GPU计算型实例规格族gn7e

gn7e的特点如下:
  • 采用Intel Icelake处理器和以NVSwitch互联的NVIDIA A100 SXM4 80G GPU卡,您可以根据需要选择不同卡数和不同CPU资源的规格,灵活适应其不同的AI业务需求。
  • 依托第三代神龙架构,VPC和云盘网络带宽相比上一代平均提升一倍。
  • 计算:
    • 采用NVIDIA A100 GPU卡
      • 创新的NVIDIA Ampere架构
      • 多卡之间以NVLINK Switch互联
      • 支持混合精度计算,单GPU显存80 GB HBM2
    • 处理器:2.9 GHz主频的Intel ® Xeon ® Platinum 8369B(Ice Lake),全核睿频3.5 GHz
  • 存储:
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 中小规模的AI训练业务
    • 使用CUDA进行加速的HPC业务
    • 对GPU处理能力或显存容量需求较高的AI推理业务
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用
    • 高GPU负载的科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
    重要 在使用高通信负载的AI训练业务如Transformer等模型时,务必启用NVLink进行GPU间的数据通信,否则可能由于PCIe链路大规模数据传输引起非预期的故障,导致数据受损。如不确定您使用的训练通信链路拓扑,请提交工单由阿里云技术专家为您提供技术支持。
gn7e包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.gn7e-c16g1.4xlarge16125NVIDIA A100 * 180GB * 18300万8810
ecs.gn7e-c16g1.16xlarge64500NVIDIA A100 * 480GB * 4321200万32810
ecs.gn7e-c16g1.32xlarge1281000NVIDIA A100 * 880GB * 8642400万321615
说明

在云服务器ECS控制台创建gn7e实例或重启gn7e实例后,系统默认该实例的MIG(Multi-Instance GPU)功能是关闭状态。关于MIG(Multi-Instance GPU)的更多信息,请参见NVIDIA Multi-Instance GPU User Guide

gn7e实例是否支持开启MIG功能的说明如下所示:

实例规格

是否支持开启MIG功能

说明

ecs.gn7e-c16g1.4xlarge

单卡实例支持开启MIG功能。

ecs.gn7e-c16g1.16xlarge

多卡实例因安全因素不支持开启MIG功能。

ecs.gn7e-c16g1.32xlarge

GPU计算型实例规格族gn7i

gn7i的特点如下:
  • 依托第三代神龙架构,提供稳定可预期的超高性能。同时通过芯片快速路径加速手段,完成存储、网络性能以及计算稳定性的数量级提升。
  • 计算:
    • 采用NVIDIA A10 GPU卡
      • 创新的Ampere架构
      • 支持RTX、TensorRT等常用加速功能
    • 处理器:2.9 GHz主频的Intel ® Xeon ® 可扩展处理器(Ice Lake),全核睿频3.5 GHz
    • 最大可提供752 GiB内存,相比gn6i大幅提升
  • 存储:
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 配备高性能CPU、内存、GPU,可以处理更多并发AI推理任务,适用于图像识别、语音识别、行为识别业务
    • 支持RTX功能,搭配高主频CPU,提供高性能的3D图形虚拟化能力,适用于远程图形设计、云游戏等高强度图形处理业务
gn7i包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.gn7i-c8g1.2xlarge830NVIDIA A10 * 124GB * 116160万845
ecs.gn7i-c16g1.4xlarge1660NVIDIA A10 * 124GB * 116300万885
ecs.gn7i-c32g1.8xlarge32188NVIDIA A10 * 124GB * 116600万1285
ecs.gn7i-c32g1.16xlarge64376NVIDIA A10 * 224GB * 2321200万16155
ecs.gn7i-c32g1.32xlarge128752NVIDIA A10 * 424GB * 4642400万321510
ecs.gn7i-c48g1.12xlarge48310NVIDIA A10 * 124GB * 116900万1688
ecs.gn7i-c56g1.14xlarge56346NVIDIA A10 * 124GB * 1161200万16128
说明

GPU计算型实例规格族gn7

gn7的特点如下:
  • 计算:
    • 采用NVIDIA A100 GPU卡,多卡之间以NVSwitch实现两两互联
      • 创新的Ampere架构
      • 单GPU显存40 GB HBM2
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8269CY(Cascade Lake)
  • 存储:
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用
    • 高GPU负载的科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
gn7包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡
ecs.gn7-c12g1.3xlarge1294NVIDIA A100 * 140GB * 14250万48
ecs.gn7-c13g1.13xlarge52378NVIDIA A100 * 440GB * 416900万168
ecs.gn7-c13g1.26xlarge104756NVIDIA A100 * 840GB * 8301800万1615
说明

在云服务器ECS控制台创建gn7实例或重启gn7实例后,系统默认该实例的MIG(Multi-Instance GPU)功能是关闭状态。关于MIG(Multi-Instance GPU)的更多信息,请参见NVIDIA Multi-Instance GPU User Guide

gn7实例是否支持开启MIG功能的说明如下所示:

实例规格

是否支持开启MIG功能

说明

ecs.gn7-c12g1.3xlarge

单卡实例支持开启MIG功能。

ecs.gn7-c13g1.13xlarge

多卡实例因安全因素不支持开启MIG功能。

ecs.gn7-c13g1.26xlarge

GPU计算型实例规格族gn6i

gn6i的特点如下:
  • 计算:
    • GPU加速器:T4
      • 创新的Turing架构
      • 单GPU显存16 GB(GPU显存带宽320 GB/s)
      • 单GPU 2560个CUDA Cores
      • 单GPU多达320个Turing Tensor Cores
      • 可变精度Tensor Cores支持65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS
    • 处理器与内存配比约为1:4
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储:
    • I/O优化实例
    • 支持ESSD云盘(百万IOPS)、SSD云盘和高效云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • AI(DL和ML)推理,适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统
    • 云游戏云端实时渲染
    • AR和VR的云端实时渲染
    • 重载图形计算或图形工作站
    • GPU加速数据库
    • 高性能计算
gn6i包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS存储IOPS基准多队列弹性网卡单网卡私有IP
ecs.gn6i-c4g1.xlarge415NVIDIA T4 * 116GB * 1450万2210
ecs.gn6i-c8g1.2xlarge831NVIDIA T4 * 116GB * 1580万2210
ecs.gn6i-c16g1.4xlarge1662NVIDIA T4 * 116GB * 16100万4310
ecs.gn6i-c24g1.6xlarge2493NVIDIA T4 * 116GB * 17.5120万6410
ecs.gn6i-c40g1.10xlarge40155NVIDIA T4 * 116GB * 110160万161010
ecs.gn6i-c24g1.12xlarge48186NVIDIA T4 * 216GB * 215240万12610
ecs.gn6i-c24g1.24xlarge96372NVIDIA T4 * 416GB * 430480万25万24810
说明

GPU计算型实例规格族gn6e

gn6e的特点如下:
  • 计算:
    • 采用NVIDIA V100(32 GB NVLink)GPU卡
    • GPU加速器:V100(SXM2封装)
      • 创新的Volta架构
      • 单GPU显存32 GB HBM2(GPU显存带宽900 GB/s)
      • 单GPU 5120个CUDA Cores
      • 单GPU 640个Tensor Cores
      • 单GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 Git/s,总带宽为6×25×2=300 Git/s
    • 处理器与内存配比约为1:8
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储:
    • I/O优化实例
    • 支持ESSD云盘、SSD云盘和高效云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用
    • 科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
gn6e包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.gn6e-c12g1.3xlarge1292NVIDIA V100 * 132GB * 1580万8610
ecs.gn6e-c12g1.12xlarge48368NVIDIA V100 * 432GB * 416240万8820
ecs.gn6e-c12g1.24xlarge96736NVIDIA V100 * 832GB * 832480万16820
说明

GPU计算型实例规格族gn6v

gn6v的特点如下:
  • 计算:
    • 采用NVIDIA V100 GPU卡
    • GPU加速器:V100(SXM2封装)
      • 创新的Volta架构
      • 单GPU显存16 GB HBM2(GPU显存带宽900 GB/s)
      • 单GPU 5120个CUDA Cores
      • 单GPU 640个Tensor Cores
      • 单GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 Git/s,总带宽为6×25×2=300 Git/s
    • 处理器与内存配比约为1:4
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储:
    • I/O优化实例
    • 支持ESSD云盘、SSD云盘和高效云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用
    • 科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
gn6v包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS存储IOPS基准多队列弹性网卡单网卡私有IP
ecs.gn6v-c8g1.2xlarge832NVIDIA V100 * 116GB * 12.580万4410
ecs.gn6v-c8g1.8xlarge32128NVIDIA V100 * 416GB * 410200万8820
ecs.gn6v-c8g1.16xlarge64256NVIDIA V100 * 816GB * 820250万16820
ecs.gn6v-c10g1.20xlarge82336NVIDIA V100 * 816GB * 832450万25万16820
说明

GPU计算型弹性裸金属服务器实例规格族ebmgn7e

ebmgn7e的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • 计算
    • 采用NVIDIA A100 SXM4 80 GB GPU计算卡,支持NVSwitch,算力高达312T(TF32)
    • 处理器:基于Intel ® Xeon ®Scalable计算平台,2.9 GHz主频,全核睿频3.5 GHz,支持PCIe 4.0接口
  • 存储
    • I/O优化实例
    • 支持ESSD云盘,PL3级别的ESSD云盘最高可提供500,000 IOPS和2,000 MB/s吞吐量,满足训练过程中的缓存要求
      说明 更多的ESSD云盘性能说明,请参见ESSD云盘
  • 网络
    • 支持IPv6
    • 超高网络性能,2400万PPS网络收发包能力
  • 适用场景
    • 各类深度学习训练开发业务
    • HPC加速计算和仿真
    重要 在使用高通信负载的AI训练业务如Transformer等模型时,务必启用NVLink进行GPU间的数据通信,否则可能由于PCIe链路大规模数据传输引起非预期的故障,导致数据受损。如不确定您使用的训练通信链路拓扑,请提交工单由阿里云技术专家为您提供技术支持。
ebmgn7e包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列(主网卡/辅助网卡)弹性网卡
ecs.ebmgn7e.32xlarge1281024NVIDIA A100 * 880GB * 8642400万32/1232
说明

MIG(Multi-Instance GPU)功能需要您在ebmgn7e实例启动后自行检查并决定是否开启或关闭,系统无法保证MIG(Multi-Instance GPU)功能是开启或关闭状态。关于MIG(Multi-Instance GPU)的更多信息,请参见NVIDIA Multi-Instance GPU User Guide

ebmgn7e实例是否支持开启MIG功能的说明如下所示:

实例规格

是否支持开启MIG功能

说明

ecs.ebmgn7e.32xlarge

ebmgn7e裸金属实例支持开启MIG功能。

GPU计算型弹性裸金属服务器实例规格族ebmgn7i

ebmgn7i的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • 计算
    • 采用NVIDIA A10 GPU计算卡
      • 创新的Ampere架构
      • 支持vGPU、RTX、TensorRT等常用加速功能
    • 处理器:2.9 GHz主频的Intel ® Xeon ®可扩展处理器(Ice Lake),全核睿频3.5 GHz
  • 存储
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络
    • 支持IPv6
    • 超高网络性能,2400万PPS网络收发包能力
  • 适用场景
    • 配备高性能CPU、内存、GPU,可以处理更多并发AI推理任务,适用于图像识别、语音识别、行为识别业务
    • 支持RTX功能,搭配高主频CPU,提供高性能的3D图形虚拟化能力,适用于远程图形设计、云游戏等高强度图形处理业务
    • 支持RTX功能,搭配高网络带宽和云盘带宽,适用于搭建高性能渲染农场
    • 配备多个GPU,搭配高网络带宽,适用于小规模深度学习训练业务
ebmgn7i包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡
ecs.ebmgn7i.32xlarge128768NVIDIA A10 * 424GB * 4642400万3232
说明

GPU计算型弹性裸金属服务器实例规格族ebmgn7

ebmgn7的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • 计算
    • 采用NVIDIA A100 GPU计算卡,多卡之间以NVSwitch实现两两互联
      • 创新的Ampere架构
      • 单GPU显存40 GB HBM2
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8269CY(Cascade Lake)
  • 存储
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用
    • 高GPU负载的科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
ebmgn7包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPU网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.ebmgn7.26xlarge104768NVIDIA A100 * 8301800万161510
说明

MIG(Multi-Instance GPU)功能需要您在ebmgn7实例启动后自己检查并决定是否开启或关闭,系统无法保证MIG(Multi-Instance GPU)功能是开启还是关闭状态。关于MIG(Multi-Instance GPU)的更多信息,请参见NVIDIA Multi-Instance GPU User Guide

ebmgn7实例是否支持开启MIG功能的说明如下所示:

实例规格

是否支持开启MIG功能

说明

ecs.ebmgn7.26xlarge

ebmgn7裸金属实例支持开启MIG功能。

GPU计算型弹性裸金属服务器实例规格族ebmgn6ia

该实例规格族正在邀测中,如需使用,提交工单

ebmgn6ia的特点如下:
  • 依托第三代神龙架构,通过芯片快速路径加速手段,提供稳定可预期的超高计算、存储和网络性能
  • 采用NVIDIA T4 GPU计算加速器提供GPU加速能力,助力图形和AI业务,搭配容器技术可以提供60路以上虚拟Android终端,并对每路终端显示进行硬件视频转码加速
  • 计算
    • 处理器与内存配比约为1:3
    • 处理器:2.8 GHz主频的Ampere® Altra®处理器,睿频3.0 GHz,原生ARM计算平台为Android服务器提供高效的性能和优秀的App兼容性
  • 存储
    • I/O优化实例
    • 仅支持ESSD云盘
  • 网络:支持IPv6
  • 适用场景:基于Android提供App远端服务,例如云业务在线待机、云手游和云手机、Android业务爬虫
ebmgn6ia包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.ebmgn6ia.20xlarge80256NVIDIA T4 * 216GB * 2322400万321510
说明
  • 您可以前往ECS实例可购买地域,查看实例在各地域的可购情况。
  • 指标的含义请参见实例规格指标说明
  • Ampere® Altra®处理器对操作系统内核版本有一定要求。当您使用该实例规格创建ECS实例时,可以直接选用Alibaba Cloud Linux 3和CentOS 8.4及以上版本的操作系统镜像(建议您使用Alibaba Cloud Linux 3镜像)。如果您需要使用其他操作系统版本,请参见Ampere Altra (TM) Linux Kernel Porting Guide,在指定操作系统的ECS实例中为内核打上相应的补丁,完成之后基于该ECS实例创建自定义镜像,然后再通过自定义镜像创建新的ECS实例时选择该实例规格。

GPU计算型弹性裸金属服务器实例规格族ebmgn6e

ebmgn6e的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • 采用NVIDIA V100(32 GB NVLink) GPU计算卡
  • GPU加速器:V100(SXM2封装)
    • 创新的Volta架构
    • 单GPU显存32 GB HBM2(GPU显存带宽900 GB/s)
    • 单GPU 5120个CUDA Cores
    • 单GPU 640个Tensor Cores
    • 单GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 GB/s,总带宽为6×25×2=300 GB/s
  • 计算
    • 处理器与内存配比为1:8
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储
    • I/O优化实例
    • 支持ESSD云盘、SSD云盘和高效云盘
  • 网络
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练以及推理应用
    • 科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
ebmgn6e包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.ebmgn6e.24xlarge96768NVIDIA V100 * 832GB * 832480万161510
说明

GPU计算型弹性裸金属服务器实例规格族ebmgn6v

ebmgn6v的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • 采用NVIDIA V100 GPU计算卡
  • GPU加速器:V100(SXM2封装)
    • 创新的Volta架构
    • 单GPU显存16 GB HBM2(GPU显存带宽900 GB/s)
    • 单GPU 5120个CUDA Cores
    • 单GPU 640个Tensor Cores
    • 单GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 GB/s,总带宽为6×25×2=300 GB/s
  • 计算
    • 处理器与内存配比为1:4
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储
    • I/O优化实例
    • 支持ESSD云盘、SSD云盘和高效云盘
  • 网络
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景
    • 深度学习,例如图像分类、无人驾驶、语音识别等人工智能算法的训练以及推理应用
    • 科学计算,例如计算流体动力学、计算金融学、分子动力学、环境分析等
ebmgn6v包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.ebmgn6v.24xlarge96384NVIDIA V100 * 816GB * 830450万83210
说明

GPU计算型弹性裸金属服务器实例规格族ebmgn6i

ebmgn6i的特点如下:
  • 基于神龙架构,实现软件定义硬件计算,灵活弹性与强悍性能兼备
  • GPU加速器:T4
    • 创新的Turing架构
    • 单GPU显存16 GB(GPU显存带宽320 GB/s)
    • 单GPU 2560个CUDA Cores
    • 单GPU多达320个Turing Tensor Cores
    • 可变精度Tensor Cores支持65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS
  • 计算
    • 处理器与内存配比为1:4
    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake)
  • 存储
    • I/O优化实例
    • 支持ESSD(百万IOPS)、SSD云盘和高效云盘
  • 网络
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景
    • AI(DL/ML)推理,适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统
    • 云游戏云端实时渲染
    • AR/VR的云端实时渲染
    • 重载图形计算或图形工作站
    • GPU加速数据库
    • 高性能计算
ebmgn6i包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.ebmgn6i.24xlarge96384NVIDIA T4 * 416GB * 430450万83210
说明

GPU计算型超级计算集群实例规格族sccgn6e

如需使用,请提交工单

sccgn6e的特点如下:

  • 具备弹性裸金属服务器的所有特性。更多信息,请参见弹性裸金属服务器概述

  • 计算:

    • GPU加速器:V100(SXM2封装)

      • 创新的Volta架构

      • GPU显存32 GB HBM2

      • CUDA Cores 5120

      • Tensor Cores 640

      • GPU显存带宽900 GB/s

      • 单GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 Git/s,总带宽为6×25×2=300 Git/s

    • 处理器与内存配比为1:8

    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake),计算性能稳定

  • 存储:

    • I/O优化实例

    • 支持ESSD云盘、SSD云盘和高效云盘

    • 支持高性能并行文件系统CPFS

  • 网络:

    • 支持IPv6

    • 支持专有网络VPC

    • 支持RoCE V2网络,用于低延迟的RDMA通信

  • 适用场景:

    • 超大规模机器学习集群训练场景

    • 大规模高性能科学计算和仿真计算

    • 大规模数据分析、批量计算、视频编码

sccgn6e包括的实例规格及指标数据如下表所示。

实例规格

vCPU

内存(GiB)

GPU

GPU显存(GB)

网络带宽(Gbit/s)

网络收发包PPS

RoCE网络(Gbit/s)

多队列

弹性网卡

单网卡私有IP

ecs.sccgn6e.24xlarge

96

768.0

NVIDIA V100 * 8

32GB * 8

32

480万

50

8

32

10

说明

GPU计算型超级计算集群实例规格族sccgn6

sccgn6的特点如下:

  • 具备弹性裸金属服务器的所有特性。更多信息,请参见弹性裸金属服务器概述

  • 计算:

    • GPU加速器:V100(SXM2封装)

      • 创新的Volta架构

      • GPU显存16 GB HBM2

      • CUDA Cores 5120

      • Tensor Cores 640

      • GPU显存带宽900 GB/s

      • GPU支持6个NVLink链路(NVLink属于双向链路),单向链路的带宽为25 Git/s,总带宽为6×25×2=300 Git/s

    • 处理器与内存配比为1:4

    • 处理器:2.5 GHz主频的Intel ® Xeon ® Platinum 8163(Skylake),计算性能稳定

  • 存储:

    • I/O优化实例

    • 支持ESSD云盘、SSD云盘和高效云盘

    • 支持高性能并行文件系统CPFS

  • 网络:

    • 支持IPv6

    • 支持专有网络VPC

    • 支持RoCE V2网络,用于低延迟的RDMA通信

  • 适用场景:

    • 超大规模机器学习集群训练场景

    • 大规模高性能科学计算和仿真计算

    • 大规模数据分析、批量计算、视频编码

sccgn6包括的实例规格及指标数据如下表所示。

实例规格

vCPU

内存(GiB)

GPU

网络带宽(Gbit/s)

网络收发包PPS

RoCE网络(Gbit/s)

多队列

弹性网卡

单网卡私有IP

ecs.sccgn6.24xlarge

96

384.0

NVIDIA V100 * 8

30

450万

50

8

32

10

说明

GPU计算型实例规格族gn5

gn5的特点如下:
  • 计算:
    • 采用NVIDIA P100 GPU卡
    • 多种处理器与内存配比
    • 处理器:2.5 GHz主频的Intel ® Xeon ® E5-2682 v4(Broadwell)
  • 存储:
    • 配备高性能NVMe SSD本地盘
    • I/O优化实例
    • 仅支持SSD云盘和高效云盘
  • 网络:
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 深度学习
    • 科学计算,例如计算流体动力学、计算金融学、基因组学研究、环境分析
    • 高性能计算、渲染、多媒体编解码及其他服务器端GPU计算工作负载
gn5包括的实例规格及指标数据如下表所示。
实例规格vCPU内存(GiB)本地存储(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.gn5-c4g1.xlarge430440NVIDIA P100 * 116GB * 1330万1310
ecs.gn5-c8g1.2xlarge860440NVIDIA P100 * 116GB * 1340万1410
ecs.gn5-c4g1.2xlarge860880NVIDIA P100 * 216GB * 25100万2410
ecs.gn5-c8g1.4xlarge16120880NVIDIA P100 * 216GB * 25100万4820
ecs.gn5-c28g1.7xlarge28112440NVIDIA P100 * 116GB * 15100万8820
ecs.gn5-c8g1.8xlarge322401760NVIDIA P100 * 416GB * 410200万8820
ecs.gn5-c28g1.14xlarge56224880NVIDIA P100 * 216GB * 210200万14820
ecs.gn5-c8g1.14xlarge544803520NVIDIA P100 * 816GB * 825400万14820
说明

GPU计算型实例规格族gn5i

gn5i的特点如下:
  • 计算:
    • 采用NVIDIA P4 GPU卡
    • 处理器与内存配比为1:4
    • 处理器:2.5 GHz主频的Intel ® Xeon ® E5-2682 v4(Broadwell)
  • 存储:
    • I/O优化实例
    • 仅支持SSD云盘和高效云盘
  • 网络:
    • 支持IPv6
    • 实例网络性能与计算规格对应(规格越高网络性能越强)
  • 适用场景:
    • 深度学习推理
    • 多媒体编解码等服务器端GPU计算工作负载
gn5i包括的实例规格及指标数据如下:
实例规格vCPU内存(GiB)GPUGPU显存网络带宽(Gbit/s)网络收发包PPS多队列弹性网卡单网卡私有IP
ecs.gn5i-c2g1.large28NVIDIA P4 * 18GB * 1110万226
ecs.gn5i-c4g1.xlarge416NVIDIA P4 * 18GB * 11.520万2310
ecs.gn5i-c8g1.2xlarge832NVIDIA P4 * 18GB * 1240万4410
ecs.gn5i-c16g1.4xlarge1664NVIDIA P4 * 18GB * 1380万4820
ecs.gn5i-c16g1.8xlarge32128NVIDIA P4 * 28GB * 26120万8820
ecs.gn5i-c28g1.14xlarge56224NVIDIA P4 * 28GB * 210200万14820
说明