Keluarga instans GPU yang didukung - Container Compute Service

ACS mendukung beberapa keluarga GPU. Gunakan label alibabacloud.com/gpu-model-series di kluster Anda untuk menentukan keluarga GPU. Keluarga GPU yang berbeda sesuai untuk kasus penggunaan yang berbeda, sehingga Anda dapat memilih keluarga instans berdasarkan kebutuhan spesifik Anda.

GU8TF

GPU komputasi.

Menyediakan memori 96 GB per GPU dan dukungan native untuk format data FP8, ideal untuk inferensi single-node pada model dengan 70 miliar parameter atau lebih.
Dilengkapi interkoneksi NVLink berkecepatan tinggi antara semua delapan GPU, cocok untuk pelatihan model skala kecil hingga menengah. Interkoneksi Remote Direct Memory Access (RDMA) 1,6 Tbps mempercepat komunikasi antar node.

Tabel berikut menentukan konfigurasi resource yang tersedia untuk Pod yang menggunakan GPU komputasi ini.

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (96 GB)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	22	22, 32, 64, 128	N/A
2 (96 GB)	16	16–128	1	30–512
	32	32, 64, 128, 230	N/A
	46	64, 128, 230	N/A
4 (96 GB)	32	32, 64, 128, 256	N/A	30–1.024
	64	64, 128, 256, 460	N/A
	92	128, 256, 460	N/A
8 (96 GB)	64	64, 128, 256, 512	N/A	30–2.048
	128	128, 256, 512, 920	N/A
	184	256, 512, 920	N/A

GU8TEF

GPU komputasi.

Menyediakan memori GPU 141 GB dan mendukung format floating-point FP8. Konfigurasi multi-GPU mendukung inferensi single-node untuk DeepSeek R1.
Interkoneksi NVLink menghubungkan delapan GPU untuk pelatihan model skala kecil hingga menengah. Interkoneksi RDMA berkecepatan tinggi 1,6 Tbps mempercepat komunikasi antar node.

Spesifikasi Pod untuk GPU komputasi ini adalah:

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (141 GB)	2	2–16	1	30–768
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	22	22, 32, 64, 128, 225	N/A
2 (141 GB)	16	16–128	1	30–1.536
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 450	N/A
4 (141 GB)	32	32, 64, 128, 256	N/A	30–3.072
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 900	N/A
8 (141 GB)	64	64, 128, 256, 512	N/A	30–6.144
	128	128, 256, 512, 1.024	N/A
	184	256, 512, 1.024, 1.800	N/A

L20 (GN8IS)

Keluarga ini menyediakan GPU komputasi.

Mendukung fitur akselerasi umum seperti TensorRT, format floating-point FP8, dan komunikasi peer-to-peer (P2P) antar GPU.
Menyediakan memori GPU 48 GB per GPU, memungkinkan inferensi single-node pada model dengan 70 miliar parameter atau lebih dalam konfigurasi multi-GPU.

Tabel berikut mencantumkan konfigurasi resource yang tersedia untuk Pod dalam keluarga ini.

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (48 GB)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–120	1
2 (48 GB)	16	16–128	1	30–512
2 (48 GB)	32	32, 64, 128, 230	N/A	30–512
4 (48 GB)	32	32, 64, 128, 256	N/A	30–1.024
4 (48 GB)	64	64, 128, 256, 460	N/A	30–1.024
8 (48 GB)	64	64, 128, 256, 512	N/A	30–2.048
8 (48 GB)	128	128, 256, 512, 920	N/A	30–2.048

L20X (GX8SF)

GPU komputasi.

Menyediakan memori 141 GB per GPU, memungkinkan inferensi single-node untuk model besar dalam konfigurasi multi-GPU.
Dilengkapi interkoneksi NVLink antara semua delapan GPU, ideal untuk pelatihan dan inferensi model skala besar. Interkoneksi RDMA berkecepatan tinggi 3,2 Tbps mempercepat komunikasi antar node.

Tabel ini mencantumkan spesifikasi Pod untuk GPU ini.

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
8 (141 GB)	184	1.800	N/A	30–6.144

P16EN

P16EN adalah kartu komputasi GPU.

Menyediakan memori video 96 GB per GPU dan mendukung format floating-point FP16. Konfigurasi multi-GPU memungkinkan inferensi single-node untuk model seperti DeepSeek R1.
Menyediakan interkoneksi berkecepatan tinggi 700 GB/s antara semua 16 GPU, ideal untuk pelatihan model skala kecil hingga menengah. Interkoneksi RDMA berkecepatan tinggi 1,6 Tbps mempercepat komunikasi antar node.

Batasan spesifikasi Pod untuk kartu GPU ini adalah sebagai berikut:

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage
1 (96 GB)	2	2–16	1	30–384 GB
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
2 (96 GB)	4	4–32	1	30–768 GB
	6	6–48	1
	8	8–64	1
	16	16–128	1
	22	32, 64, 128, 225	N/A
4 (96 GB)	8	8–64	1	30–1.536 GB
	16	16–128	1
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 450	N/A
8 (96 GB)	16	16–128	1	30–3.072 GB
	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 900	N/A
16 (96 GB)	32	32, 64, 128, 256	N/A	30–6.144 GB
	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1.024	N/A
	184	256, 512, 1.024, 1.800	N/A

T4

T4 adalah kartu komputasi GPU.

Dibangun di atas arsitektur Turing, setiap GPU menyediakan memori GPU 16 GB dan bandwidth memori 320 GB/s.
Tensor Core presisi variabel memberikan hingga 65 TFLOPS (FP16), 130 TOPS (INT8), dan 260 TOPS (INT4).

GPU ini memiliki batasan resource Pod berikut:

Instance family	GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
single-node family	1 (16 GB GPU memory)	2	2–8	1	30–1536
		4	4–16	1
		6	6–24	1
		8	8–32	1
		10	10–40	1
		12	12–48	1
		14	14–56	1
		16	16–64	1
		24	24, 48, 90	N/A
	2 (16 GB GPU memory)	16	16–64	1
		24	24, 48, 96	N/A
		32	32, 64, 128	N/A
		48	48, 96, 180	N/A

A10

GPU.

Berdasarkan arsitektur Ampere, setiap GPU memiliki memori 24 GB dan mendukung fitur akselerasi umum seperti RTX dan TensorRT.

Batasan resource Pod untuk GPU ini:

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (24 GB)	2	2–8	1	30–256
	4	4–16	1
	6	6–24	1
	8	8–32	1
	10	10–40	1
	12	12–48	1
	14	14–56	1
	16	16–60	1
2 (24 GB x 2)	16	16–64	N/A	30–512
2 (24 GB x 2)	32	32, 64, 120	N/A	30–512
4 (24 GB x 4)	32	32, 64, 128	N/A	30–1.024
4 (24 GB x 4)	64	64, 128, 240	N/A	30–1.024
8 (24 GB x 8)	64	64, 128, 256	N/A	30–2.048
8 (24 GB x 8)	128	128, 256, 480	N/A	30–2.048

G28Ti

Kartu GPU.

Menyediakan memori GPU 11 GB per GPU dan mendukung fitur akselerasi umum seperti TensorRT dan CUDA. Kartu ini juga mendukung NVLink dan komunikasi P2P antar GPU.

Tabel ini mencantumkan spesifikasi Pod untuk kartu GPU ini.

GPU	vCPU	Memory (GiB)	Memory step size (GiB)	Storage (GiB)
1 (11 GB GPU memory)	2	2–8	1	30–1.536
	4	4–16	1
	6	6–24	1
	8	8–32	1
	10	10–40	1
	12	12–48	1

G49E

G49E adalah kartu komputasi GPU.

Setiap GPU menyediakan memori GPU 48 GB, mendukung fitur akselerasi umum seperti RTX dan TensorRT, serta memungkinkan komunikasi peer-to-peer (P2P) antar GPU.

Tabel ini merinci spesifikasi Pod untuk kartu GPU ini.

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (48 GB VRAM)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–120	1
2 (48 GB VRAM each)	16	16–128	1	30–512
2 (48 GB VRAM each)	32	32, 64, 128, 230	N/A	30–512
4 (48 GB VRAM each)	32	32, 64, 128, 256	N/A	30–1.024
4 (48 GB VRAM each)	64	64, 128, 256, 460	N/A	30–1.024
8 (48 GB VRAM each)	64	64, 128, 256, 512	N/A	30–2.048
8 (48 GB VRAM each)	128	128, 256, 512, 920	N/A	30–2.048

G59

GPU.

Setiap GPU memiliki memori GPU 32 GB, mendukung fitur akselerasi seperti RTX dan TensorRT, serta memungkinkan komunikasi peer-to-peer (P2P) antar GPU.

Tabel berikut mencantumkan batasan spesifikasi Pod untuk GPU ini.

GPUs	vCPUs	Memory (GiB)	Memory step size (GiB)	Storage (GiB)
1 (32 GB video memory)	2	2–16	1	30–256
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	22	22, 32, 64, 128	N/A
2 (32 GB video memory per GPU)	16	16–128	1	30–512
	32	32, 64, 128, 256	N/A
	46	64, 128, 256, 360	N/A
4 (32 GB video memory per GPU)	32	32, 64, 128, 256	N/A	30–1024
	64	64, 128, 256, 512	N/A
	92	128, 256, 512, 720	N/A
8 (32 GB video memory per GPU)	64	64, 128, 256, 512	N/A	30–2048
	128	128, 256, 512, 1.024	N/A
	184	256, 512, 1.024, 1.440	N/A

L20N

L20N adalah kartu komputasi GPU.

Dilengkapi arsitektur Blackwell terbaru, CPU frekuensi tinggi, dan memori berkapasitas besar.
Ideal untuk akselerasi GPU hemat biaya dalam berbagai skenario, termasuk pelatihan kendaraan otonom dan kecerdasan terwujud, inferensi model besar, rendering film dan animasi, aplikasi metaverse, serta cloud gaming.

Spesifikasi untuk Pod yang mendukung kartu GPU ini adalah sebagai berikut:

GPU	vCPU	Memory (GiB)	Memory step size (GiB)	Storage (GiB)
1 (48 GB video memory)	2	2–16	1	30–2.048
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	32	32, 64, 128, 256	N/A
2 (48 GB each)	16	16–128	1
	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
4 (48 GB each)	32	32, 64, 128, 256	N/A
	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1.024	N/A
8 (48 GB each)	64	64, 128, 256, 512	N/A
	128	128, 256, 512, 1.024	N/A
	256	256, 512, 1.024, 2.048	N/A

L20NE

Kartu GPU.

Menyediakan CPU frekuensi tinggi, memori berkapasitas besar, dan kartu grafis profesional berbasis arsitektur Blackwell terbaru.
Memberikan layanan cloud GPU hemat biaya untuk beban kerja yang dipercepat GPU seperti kendaraan otonom, pelatihan kecerdasan terwujud, inferensi model besar, rendering film dan animasi, metaverse, serta cloud gaming.

Berikut adalah spesifikasi Pod yang tersedia:

GPU	vCPU	Memory (GiB)	Memory increment (GiB)	Storage (GiB)
1 (72 GB GPU memory)	2	2–16	1	30–2.048
	4	4–32	1
	6	6–48	1
	8	8–64	1
	10	10–80	1
	12	12–96	1
	14	14–112	1
	16	16–128	1
	32	32, 64, 128, or 256	N/A
2 (72 GB GPU memory each)	16	16–128	1
	32	32, 64, 128, or 256	N/A
	64	64, 128, 256, or 512	N/A
4 (72 GB GPU memory each)	32	32, 64, 128, or 256	N/A
	64	64, 128, 256, or 512	N/A
	128	128, 256, 512, or 1.024	N/A
8 (72 GB GPU memory each)	64	64, 128, 256, or 512	N/A
	128	128, 256, 512, or 1.024	N/A
	256	256, 512, 1.024, or 2.048	N/A