ACS admite varias familias de GPU. Utilice la etiqueta alibabacloud.com/gpu-model-series en su clúster para especificar una familia de GPU. Cada familia de GPU se adapta a distintos casos de uso. Seleccione una familia de instancias según sus necesidades específicas.
GU8TF
GPU de cómputo.
Cuenta con 96 GB de memoria por GPU y compatibilidad nativa con el formato de datos FP8. Resulta ideal para inference en un solo nodo con modelos de 70 mil millones de parámetros o más.
Ofrece interconexiones NVLink de alta velocidad entre las ocho GPU, lo que la hace adecuada para entrenar modelos a escala pequeña o mediana. Una interconexión Remote Direct Memory Access (RDMA) de 1.6 Tbps acelera la comunicación entre nodos.
A continuación se muestran las especificaciones de pod compatibles:
GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (96 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (96 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
46 | 64, 128, 230 | N/A | ||
4 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1,024 |
64 | 64, 128, 256, 460 | N/A | ||
92 | 128, 256, 460 | N/A | ||
8 (96 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2,048 |
128 | 128, 256, 512, 920 | N/A | ||
184 | 256, 512, 920 | N/A |
GU8TEF
GPU de cómputo.
Cuenta con 141 GB de memoria de GPU y es compatible con el formato de punto flotante FP8. Las configuraciones de varias GPU admiten inference en un solo nodo para DeepSeek R1.
NVLink interconecta ocho GPU para entrenar modelos a escala pequeña o mediana. Una interconexión RDMA de alta velocidad de 1.6 Tbps acelera la comunicación entre nodos.
A continuación se muestran las especificaciones de pod compatibles:
GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (141 GB) | 2 | 2–16 | 1 | 30–768 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128, 225 | N/A | ||
2 (141 GB) | 16 | 16–128 | 1 | 30–1,536 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
4 (141 GB) | 32 | 32, 64, 128, 256 | N/A | 30–3,072 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
8 (141 GB) | 64 | 64, 128, 256, 512 | N/A | 30–6,144 |
128 | 128, 256, 512, 1,024 | N/A | ||
184 | 256, 512, 1,024, 1,800 | N/A |
L20 (GN8IS)
Esta familia proporciona GPU de cómputo.
Es compatible con funciones de aceleración comunes como TensorRT, el formato de punto flotante FP8 y la comunicación punto a punto (P2P) entre GPU.
Proporciona 48 GB de memoria de GPU por tarjeta. Esto permite ejecutar inference en un solo nodo con modelos de 70 mil millones de parámetros o más cuando se usan configuraciones de varias GPU.
A continuación se muestran las especificaciones de pod compatibles:
GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (48 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–120 | 1 | ||
2 (48 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1,024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2,048 |
128 | 128, 256, 512, 920 | N/A |
L20X (GX8SF)
GPU de cómputo.
Ofrece 141 GB de memoria por GPU. Esto permite ejecutar inference en un solo nodo para modelos grandes cuando se usan configuraciones de varias GPU.
Incluye interconexiones NVLink entre las ocho GPU, lo que la hace ideal para entrenar modelos a gran escala y realizar inference. Una interconexión RDMA de alta velocidad de 3.2 Tbps acelera la comunicación entre nodos.
A continuación se muestran las especificaciones de pod compatibles:
|
GPU |
vCPU |
Memoria (GiB) |
Incremento de memoria (GiB) |
Almacenamiento (GiB) |
|
8 (141 GB) |
184 |
1,800 |
N/A |
30–6,144 |
P16EN
La P16EN es una tarjeta de cómputo con GPU.
Proporciona 96 GB de memoria de video por GPU y es compatible con el formato de punto flotante FP16. Las configuraciones de varias GPU permiten ejecutar inference en un solo nodo para modelos como DeepSeek R1.
Ofrece una interconexión de alta velocidad de 700 GB/s entre las 16 GPU, lo que resulta ideal para entrenar modelos a escala pequeña o mediana. Una interconexión RDMA de alta velocidad de 1.6 Tbps acelera la comunicación entre nodos.
A continuación se muestran las especificaciones de pod compatibles:
GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento |
1 (96 GB) | 2 | 2–16 | 1 | 30–384 GB |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
2 (96 GB) | 4 | 4–32 | 1 | 30–768 GB |
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
16 | 16–128 | 1 | ||
22 | 32, 64, 128, 225 | N/A | ||
4 (96 GB) | 8 | 8–64 | 1 | 30–1536 GB |
16 | 16–128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
8 (96 GB) | 16 | 16–128 | 1 | 30–3072 GB |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
16 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–6144 GB |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1,024 | N/A | ||
184 | 256, 512, 1,024, 1,800 | N/A |
T4
La T4 es una tarjeta de cómputo GPU.
Basada en la arquitectura Turing, cada GPU proporciona 16 GB de memoria GPU y 320 GB/s de ancho de banda de memoria.
Los Tensor Cores de precisión variable ofrecen hasta 65 TFLOPS (FP16), 130 TOPS (INT8) y 260 TOPS (INT4).
Las especificaciones de pod compatibles son las siguientes:
Familia de instancias | GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento (GiB) |
familia de nodo único | 1 (16 GB de memoria GPU) | 2 | 2–8 | 1 | 30–1536 |
4 | 4–16 | 1 | |||
6 | 6–24 | 1 | |||
8 | 8–32 | 1 | |||
10 | 10–40 | 1 | |||
12 | 12–48 | 1 | |||
14 | 14–56 | 1 | |||
16 | 16–64 | 1 | |||
24 | 24, 48, 90 | N/A | |||
2 (16 GB de memoria GPU) | 16 | 16–64 | 1 | ||
24 | 24, 48, 96 | N/A | |||
32 | 32, 64, 128 | N/A | |||
48 | 48, 96, 180 | N/A |
A10
Una GPU.
Basada en la arquitectura Ampere, cada GPU cuenta con 24 GB de memoria y es compatible con funciones de aceleración comunes como RTX y TensorRT.
Las especificaciones de pod compatibles son las siguientes:
GPU | vCPU | Memoria (GiB) | Incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (24 GB) | 2 | 2–8 | 1 | 30–256 |
4 | 4–16 | 1 | ||
6 | 6–24 | 1 | ||
8 | 8–32 | 1 | ||
10 | 10–40 | 1 | ||
12 | 12–48 | 1 | ||
14 | 14–56 | 1 | ||
16 | 16–60 | 1 | ||
2 (24 GB x 2) | 16 | 16–64 | N/A | 30–512 |
32 | 32, 64, 120 | N/A | ||
4 (24 GB x 4) | 32 | 32, 64, 128 | N/A | 30–1,024 |
64 | 64, 128, 240 | N/A | ||
8 (24 GB x 8) | 64 | 64, 128, 256 | N/A | 30–2,048 |
128 | 128, 256, 480 | N/A |
G28Ti
Tarjeta GPU.
Proporciona 11 GB de memoria GPU por cada GPU y es compatible con funciones de aceleración comunes como TensorRT y CUDA. También admite la comunicación NVLink y P2P entre GPU.
Las especificaciones de pod compatibles son las siguientes:
GPU (tarjetas) | vCPU | Memoria (GiB) | Tamaño de incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (11 GB de memoria GPU) | 2 | 2 a 8 | 1 | 30 a 1536 |
4 | 4 a 16 | 1 | ||
6 | 6 a 24 | 1 | ||
8 | 8 a 32 | 1 | ||
10 | 10 a 40 | 1 | ||
12 | 12 a 48 | 1 |
G49E
La G49E es una tarjeta de cómputo GPU.
Cada GPU proporciona 48 GB de memoria GPU y es compatible con funciones de aceleración comunes como RTX y TensorRT. Además, permite la comunicación punto a punto (P2P) entre GPU.
Las especificaciones de pod compatibles son las siguientes:
GPU (tarjetas) | vCPU | Memoria (GiB) | Tamaño de incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (48 GB de memoria GPU) | 2 | 2 a 16 | 1 | 30 a 256 |
4 | 4 a 32 | 1 | ||
6 | 6 a 48 | 1 | ||
8 | 8 a 64 | 1 | ||
10 | 10 a 80 | 1 | ||
12 | 12 a 96 | 1 | ||
14 | 14 a 112 | 1 | ||
16 | 16 a 120 | 1 | ||
2 (48 GB × 2 de memoria GPU) | 16 | 16 a 128 | 1 | 30 a 512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB × 4 de memoria GPU) | 32 | 32, 64, 128, 256 | N/A | 30 a 1024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB × 8 de memoria GPU) | 64 | 64, 128, 256, 512 | N/A | 30 a 2048 |
128 | 128, 256, 512, 920 | N/A |
G59
GPU.
Cada GPU cuenta con 32 GB de memoria GPU y es compatible con funciones de aceleración como RTX y TensorRT. También permite la comunicación punto a punto (P2P) entre GPU.
Las especificaciones de pod compatibles son las siguientes:
GPU (tarjetas) | vCPU | Memoria (GiB) | Tamaño de incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (32 GB de memoria GPU) | 2 | 2 a 16 | 1 | 30 a 256 |
4 | 4 a 32 | 1 | ||
6 | 6 a 48 | 1 | ||
8 | 8 a 64 | 1 | ||
10 | 10 a 80 | 1 | ||
12 | 12 a 96 | 1 | ||
14 | 14 a 112 | 1 | ||
16 | 16 a 128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (32 GB × 2 de memoria GPU) | 16 | 16 a 128 | 1 | 30 a 512 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 360 | N/A | ||
4 (32 GB × 4 de memoria GPU) | 32 | 32, 64, 128, 256 | N/A | 30 a 1024 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 720 | N/A | ||
8 (32 GB × 8 de memoria GPU) | 64 | 64, 128, 256, 512 | N/A | 30 a 2048 |
128 | 128, 256, 512, 1024 | N/A | ||
184 | 256, 512, 1024, 1440 | N/A |
L20N
La L20N es una tarjeta de cómputo GPU.
Incorpora la nueva arquitectura Blackwell, CPU de alta frecuencia y gran capacidad de memoria.
Resulta ideal para la aceleración GPU rentable en diversos escenarios, como el entrenamiento para conducción autónoma e inteligencia corpórea, la inference de modelos grandes, el renderizado de películas y animaciones, las aplicaciones de metaverso y los videojuegos en la nube.
Las especificaciones de pod compatibles son las siguientes:
GPU (tarjetas) | vCPU | Memoria (GiB) | Tamaño de incremento de memoria (GiB) | Almacenamiento (GiB) |
1 (48 GB de memoria GPU) | 2 | 2 a 16 | 1 | 30 a 2048 |
4 | 4 a 32 | 1 | ||
6 | 6 a 48 | 1 | ||
8 | 8 a 64 | 1 | ||
10 | 10 a 80 | 1 | ||
12 | 12 a 96 | 1 | ||
14 | 14 a 112 | 1 | ||
16 | 16 a 128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
2 (48 GB × 2 de memoria GPU) | 16 | 16 a 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
4 (48 GB × 4 de memoria GPU) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1024 | N/A | ||
8 (48 GB × 8 de memoria GPU) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1024 | N/A | ||
256 | 256, 512, 1024, 2048 | N/A |
L20NE
Tarjeta GPU.
Ofrece una CPU de alta frecuencia, memoria de gran capacidad y una tarjeta gráfica profesional basada en la nueva arquitectura Blackwell.
Proporciona un servicio de GPU en la nube rentable para cargas de trabajo aceleradas por GPU. Entre ellas se incluyen la conducción autónoma, el entrenamiento de inteligencia encarnada, la inference de modelos grandes, el renderizado de películas y animaciones, el metaverso y los videojuegos en la nube.
Las especificaciones de pod compatibles son las siguientes:
GPU (tarjetas) | vCPU | Memoria (GiB) | Tamaño de paso de memoria (GiB) | Almacenamiento (GiB) |
1 (72 GB de memoria GPU) | 2 | 2 a 16 | 1 | 30 a 2048 |
4 | 4 a 32 | 1 | ||
6 | 6 a 48 | 1 | ||
8 | 8 a 64 | 1 | ||
10 | 10 a 80 | 1 | ||
12 | 12 a 96 | 1 | ||
14 | 14 a 112 | 1 | ||
16 | 16 a 128 | 1 | ||
32 | 32, 64, 128, 180 | N/A | ||
2 (72 GB × 2 de memoria GPU) | 16 | 16 a 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 360 | N/A | ||
4 (72 GB × 4 de memoria GPU) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 720 | N/A | ||
8 (72 GB × 8 de memoria GPU) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1024 | N/A | ||
256 | 256, 512, 1024, 1440 | N/A |