Familles d'instances GPU prises en charge - Container Compute Service

GU8TF

GPU de calcul.

Chaque GPU dispose de 96 Go de mémoire et prend nativement en charge le format de données FP8. Cette configuration est idéale pour l'inférence sur un seul nœud avec des modèles comptant 70 milliards de paramètres ou plus.
Des interconnexions NVLink haute vitesse relient les huit GPU, ce qui convient à l'entraînement de modèles à petite et moyenne échelle. Une interconnexion RDMA (Remote Direct Memory Access) de 1,6 Tbit/s accélère la communication entre les nœuds.

Le tableau suivant indique les configurations de ressources disponibles pour les Pods utilisant ce GPU de calcul.

GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (96 Go)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	22	22, 32, 64, 128	N/A
2 (96 Go)	16	16–128	1	30–512
	32	32, 64, 128, 230	N/A
	46	64, 128, 230	N/A
4 (96 Go)	32	32, 64, 128, 256	N/A	30–1 024
	64	64, 128, 256, 460	N/A
	92	128, 256, 460	N/A
8 (96 Go)	64	64, 128, 256, 512	N/A	30–2 048
	128	128, 256, 512, 920	N/A
	184	256, 512, 920	N/A

GU8TEF

GPU de calcul.

Chaque GPU dispose de 141 Go de mémoire et prend en charge le format à virgule flottante FP8. Les configurations multi-GPU permettent l'inférence sur un seul nœud pour DeepSeek R1.
Des interconnexions NVLink relient les huit GPU, ce qui convient à l'entraînement de modèles à petite et moyenne échelle. Une interconnexion RDMA haute vitesse de 1,6 Tbit/s accélère la communication entre les nœuds.

Les spécifications des Pods pour ce GPU de calcul sont les suivantes :

GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (141 Go)	2	2–16	1	30–768
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	22	22, 32, 64, 128, 225	N/A
2 (141 Go)	16	16–128	1	30–1 536
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 450	N/A
4 (141 Go)	32	32, 64, 128, 256	N/A	30–3 072
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 900	N/A
8 (141 Go)	64	64, 128, 256, 512	N/A	30–6 144
	128	128, 256, 512, 1 024	N/A
	184	256, 512, 1 024, 1 800	N/A

L20 (GN8IS)

Cette famille propose des GPU de calcul.

Prend en charge des fonctionnalités d'accélération courantes telles que TensorRT, le format à virgule flottante FP8 et la communication pair à pair (P2P) entre les GPU.
Chaque GPU dispose de 48 Go de mémoire, ce qui permet l'inférence sur un seul nœud avec des modèles comptant 70 milliards de paramètres ou plus dans des configurations multi-GPU.

Le tableau suivant répertorie les configurations de ressources disponibles pour les Pods de cette famille.

GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (48 Go)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–120	1
2 (48 Go)	16	16–128	1	30–512
2 (48 Go)	32	32, 64, 128, 230	N/A	30–512
4 (48 Go)	32	32, 64, 128, 256	N/A	30–1 024
4 (48 Go)	64	64, 128, 256, 460	N/A	30–1 024
8 (48 Go)	64	64, 128, 256, 512	N/A	30–2 048
8 (48 Go)	128	128, 256, 512, 920	N/A	30–2 048

L20X (GX8SF)

GPU de calcul.

Chaque GPU dispose de 141 Go de mémoire, ce qui permet l'inférence sur un seul nœud pour les grands modèles dans des configurations multi-GPU.
Des interconnexions NVLink relient les huit GPU, ce qui est idéal pour l'entraînement et l'inférence de modèles à grande échelle. Une interconnexion RDMA haute vitesse de 3,2 Tbit/s accélère la communication entre les nœuds.

Ce tableau répertorie les spécifications des Pods pour ce GPU.

GPU

vCPU

Mémoire (Go)

Incrément de mémoire (Go)

Stockage (Go)

8 (141 Go)

184

1 800

N/A

30–6 144

P16EN

La carte P16EN est une carte de calcul GPU.

Chaque GPU dispose de 96 Go de mémoire vidéo et prend en charge le format à virgule flottante FP16. Les configurations multi-GPU permettent l'inférence sur un seul nœud pour des modèles tels que DeepSeek R1.
Une interconnexion haut débit de 700 Go/s relie les 16 GPU, ce qui est idéal pour l'entraînement de modèles à petite et moyenne échelle. Une interconnexion RDMA haut débit de 1,6 Tbit/s accélère la communication entre les nœuds.

Les contraintes de spécification du Pod pour cette carte GPU sont les suivantes :

GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage
1 (96 Go)	2	2–16	1	30–384 Go
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
2 (96 Go)	4	4–32	1	30–768 Go
	6	6–48	1
	8	8–64	1
	16	16–128	1
	22	32, 64, 128, 225	N/A
4 (96 Go)	8	8–64	1	30–1536 Go
	16	16–128	1
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 450	N/A
8 (96 Go)	16	16–128	1	30–3072 Go
	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 900	N/A
16 (96 Go)	32	32, 64, 128, 256	N/A	30–6144 Go
	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1 024	N/A
	184	256, 512, 1 024, 1 800	N/A

T4

La carte T4 est une carte de calcul GPU.

Basée sur l'architecture Turing, chaque GPU offre 16 Go de mémoire GPU et une bande passante mémoire de 320 Go/s.
Les Tensor Cores à précision variable offrent jusqu'à 65 TFLOPS (FP16), 130 TOPS (INT8) et 260 TOPS (INT4).

Cette carte GPU présente les contraintes de ressources Pod suivantes :

Famille d'instances	GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
famille mono-nœud	1 (16 Go de mémoire GPU)	2	2–8	1	30–1536
		4	4–16	1
		6	6–24	1
		8	8–32	1
		10	10–40	1
		12	12–48	1
		14	14–56	1
		16	16–64	1
		24	24, 48, 90	N/A
	2 (16 Go de mémoire GPU)	16	16–64	1
		24	24, 48, 96	N/A
		32	32, 64, 128	N/A
		48	48, 96, 180	N/A

A10

Un GPU.

Basée sur l'architecture Ampere, chaque GPU dispose de 24 Go de mémoire et prend en charge des fonctionnalités d'accélération courantes telles que RTX et TensorRT.

Contraintes de ressources Pod pour ce GPU :

GPU	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (24 Go)	2	2–8	1	30–256
	4	4–16	1
	6	6–24	1
	8	8–32	1
	10	10–40	1
	12	12–48	1
	14	14–56	1
	16	16–60	1
2 (24 Go x 2)	16	16–64	N/A	30–512
2 (24 Go x 2)	32	32, 64, 120	N/A	30–512
4 (24 Go x 4)	32	32, 64, 128	N/A	30–1 024
4 (24 Go x 4)	64	64, 128, 240	N/A	30–1 024
8 (24 Go x 8)	64	64, 128, 256	N/A	30–2 048
8 (24 Go x 8)	128	128, 256, 480	N/A	30–2 048

G28Ti

Carte GPU.

Chaque GPU offre 11 Go de mémoire GPU et prend en charge des fonctionnalités d'accélération courantes telles que TensorRT et CUDA. Elle prend également en charge NVLink et la communication P2P entre les GPU.

Ce tableau répertorie les spécifications de Pod pour cette carte GPU.

GPU (cartes)	vCPU	Mémoire (Go)	Taille d'incrément de mémoire (Go)	Stockage (Go)
1 (11 Go de mémoire GPU)	2	2 à 8	1	30 à 1536
	4	4 à 16	1
	6	6 à 24	1
	8	8 à 32	1
	10	10 à 40	1
	12	12 à 48	1

G49E

La G49E est une carte de calcul GPU.

Chaque GPU dispose de 48 Go de mémoire GPU, prend en charge des fonctionnalités d'accélération courantes telles que RTX et TensorRT, et permet la communication pair à pair (P2P) entre les GPU.

Ce tableau détaille les spécifications des pods pour cette carte GPU.

GPU (cartes)	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (48 Go de mémoire GPU)	2	2 à 16	1	30 à 256
	4	4 à 32	1
	6	6 à 48	1
	8	8 à 64	1
	10	10 à 80	1
	12	12 à 96	1
	14	14 à 112	1
	16	16 à 120	1
2 (48 Go × 2 de mémoire GPU)	16	16 à 128	1	30 à 512
2 (48 Go × 2 de mémoire GPU)	32	32, 64, 128, 230	N/A	30 à 512
4 (48 Go × 4 de mémoire GPU)	32	32, 64, 128, 256	N/A	30 à 1024
4 (48 Go × 4 de mémoire GPU)	64	64, 128, 256, 460	N/A	30 à 1024
8 (48 Go × 8 de mémoire GPU)	64	64, 128, 256, 512	N/A	30 à 2048
8 (48 Go × 8 de mémoire GPU)	128	128, 256, 512, 920	N/A	30 à 2048

G59

GPU.

Chaque GPU dispose de 32 Go de mémoire GPU, prend en charge des fonctionnalités d'accélération telles que RTX et TensorRT, et permet la communication pair à pair (P2P) entre les GPU.

Le tableau suivant répertorie les contraintes de spécification des pods pour ce GPU.

GPU (cartes)	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (32 Go de mémoire GPU)	2	2 à 16	1	30 à 256
	4	4 à 32	1
	6	6 à 48	1
	8	8 à 64	1
	10	10 à 80	1
	12	12 à 96	1
	14	14 à 112	1
	16	16 à 128	1
	22	22, 32, 64, 128	N/A
2 (32 Go × 2 de mémoire GPU)	16	16 à 128	1	30 à 512
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 360	N/A
4 (32 Go × 4 de mémoire GPU)	32	32, 64, 128, 256	N/A	30 à 1024
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 720	N/A
8 (32 Go × 8 de mémoire GPU)	64	64, 128, 256, 512	N/A	30 à 2048
	128	128, 256, 512, 1024	N/A
	184	256, 512, 1024, 1440	N/A

L20N

La L20N est une carte de calcul GPU.

Elle intègre la nouvelle architecture Blackwell, des CPU haute fréquence et une grande capacité de mémoire.
Idéale pour une accélération GPU rentable dans divers scénarios, notamment l'entraînement pour la conduite autonome et l'intelligence incarnée, l'inférence de grands modèles, le rendu de films et d'animations, les applications métavers et le cloud gaming.

Les spécifications des pods compatibles avec cette carte GPU sont les suivantes :

GPU (cartes)	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (48 Go de mémoire GPU)	2	2 à 16	1	30 à 2048
	4	4 à 32	1
	6	6 à 48	1
	8	8 à 64	1
	10	10 à 80	1
	12	12 à 96	1
	14	14 à 112	1
	16	16 à 128	1
	32	32, 64, 128, 256	N/A
2 (48 Go × 2 de mémoire GPU)	16	16 à 128	1
	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
4 (48 Go × 4 de mémoire GPU)	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1024	N/A
8 (48 Go × 8 de mémoire GPU)	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1024	N/A
	256	256, 512, 1024, 2048	N/A

L20NE

Carte GPU.

Offre un CPU haute fréquence, une mémoire de grande capacité et une carte graphique professionnelle basée sur la nouvelle architecture Blackwell.
Fournit un service cloud GPU rentable pour les charges de travail accélérées par GPU, telles que la conduite autonome, l'entraînement à l'intelligence incarnée, l'inférence de grands modèles, le rendu de films et d'animations, le métavers et le cloud gaming.

Voici les spécifications de pod disponibles :

GPU (cartes)	vCPU	Mémoire (Go)	Incrément de mémoire (Go)	Stockage (Go)
1 (72 Go de mémoire GPU)	2	2 à 16	1	30 à 2048
	4	4 à 32	1
	6	6 à 48	1
	8	8 à 64	1
	10	10 à 80	1
	12	12 à 96	1
	14	14 à 112	1
	16	16 à 128	1
	32	32, 64, 128, 180	N/A
2 (72 Go × 2 de mémoire GPU)	16	16 à 128	1
	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 360	N/A
4 (72 Go × 4 de mémoire GPU)	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 720	N/A
8 (72 Go × 8 de mémoire GPU)	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1024	N/A
	256	256, 512, 1024, 1440	N/A