ACS mendukung beberapa keluarga GPU. Gunakan label alibabacloud.com/gpu-model-series di kluster Anda untuk menentukan keluarga GPU. Keluarga GPU yang berbeda sesuai untuk kasus penggunaan yang berbeda. Pilihlah keluarga instans berdasarkan kebutuhan spesifik Anda.
GU8TF
GPU komputasi.
Dilengkapi memori 96 GB per GPU dan dukungan native untuk format data FP8, sehingga ideal untuk inferensi single-node pada model dengan 70 miliar parameter atau lebih.
Menyediakan interkoneksi NVLink berkecepatan tinggi antara semua delapan GPU, cocok untuk pelatihan model skala kecil hingga menengah. Interkoneksi Remote Direct Memory Access (RDMA) 1,6 Tbps mempercepat komunikasi antar node.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
1 (96 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (96 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
46 | 64, 128, 230 | N/A | ||
4 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1.024 |
64 | 64, 128, 256, 460 | N/A | ||
92 | 128, 256, 460 | N/A | ||
8 (96 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2.048 |
128 | 128, 256, 512, 920 | N/A | ||
184 | 256, 512, 920 | N/A |
GU8TEF
GPU komputasi.
Dilengkapi memori GPU 141 GB dan mendukung format floating-point FP8. Konfigurasi multi-GPU mendukung inferensi single-node untuk DeepSeek R1.
Interkoneksi NVLink menghubungkan delapan GPU untuk pelatihan model skala kecil hingga menengah. Interkoneksi RDMA berkecepatan tinggi 1,6 Tbps mempercepat komunikasi antar node.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
1 (141 GB) | 2 | 2–16 | 1 | 30–768 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–128 | 1 | ||
22 | 22, 32, 64, 128, 225 | N/A | ||
2 (141 GB) | 16 | 16–128 | 1 | 30–1.536 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
4 (141 GB) | 32 | 32, 64, 128, 256 | N/A | 30–3.072 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
8 (141 GB) | 64 | 64, 128, 256, 512 | N/A | 30–6.144 |
128 | 128, 256, 512, 1.024 | N/A | ||
184 | 256, 512, 1.024, 1.800 | N/A |
L20 (GN8IS)
Keluarga ini menyediakan GPU komputasi.
Mendukung fitur akselerasi umum seperti TensorRT, format floating-point FP8, dan komunikasi peer-to-peer (P2P) antar GPU.
Menyediakan memori GPU 48 GB per GPU, memungkinkan inferensi single-node pada model dengan 70 miliar parameter atau lebih dalam konfigurasi multi-GPU.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
1 (48 GB) | 2 | 2–16 | 1 | 30–256 |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
12 | 12–96 | 1 | ||
14 | 14–112 | 1 | ||
16 | 16–120 | 1 | ||
2 (48 GB) | 16 | 16–128 | 1 | 30–512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB) | 32 | 32, 64, 128, 256 | N/A | 30–1.024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB) | 64 | 64, 128, 256, 512 | N/A | 30–2.048 |
128 | 128, 256, 512, 920 | N/A |
L20X (GX8SF)
GPU komputasi.
Menawarkan memori 141 GB per GPU, memungkinkan inferensi single-node untuk model besar dalam konfigurasi multi-GPU.
Dilengkapi interkoneksi NVLink antara semua delapan GPU, ideal untuk pelatihan dan inferensi model skala besar. Interkoneksi RDMA berkecepatan tinggi 3,2 Tbps mempercepat komunikasi antar node.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
8 (141 GB) | 184 | 1.800 | N/A | 30–6.144 |
P16EN
P16EN adalah kartu komputasi GPU.
Menyediakan memori video 96 GB per GPU dan mendukung format floating-point FP16. Konfigurasi multi-GPU memungkinkan inferensi single-node untuk model seperti DeepSeek R1.
Menyediakan interkoneksi berkecepatan tinggi 700 GB/s antara semua 16 GPU, ideal untuk pelatihan model skala kecil hingga menengah. Interkoneksi RDMA berkecepatan tinggi 1,6 Tbps mempercepat komunikasi antar node.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage |
1 (96 GB) | 2 | 2–16 | 1 | 30–384 GB |
4 | 4–32 | 1 | ||
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
10 | 10–80 | 1 | ||
2 (96 GB) | 4 | 4–32 | 1 | 30–768 GB |
6 | 6–48 | 1 | ||
8 | 8–64 | 1 | ||
16 | 16–128 | 1 | ||
22 | 32, 64, 128, 225 | N/A | ||
4 (96 GB) | 8 | 8–64 | 1 | 30–1.536 GB |
16 | 16–128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 450 | N/A | ||
8 (96 GB) | 16 | 16–128 | 1 | 30–3.072 GB |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 900 | N/A | ||
16 (96 GB) | 32 | 32, 64, 128, 256 | N/A | 30–6.144 GB |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1.024 | N/A | ||
184 | 256, 512, 1.024, 1.800 | N/A |
T4
T4 adalah kartu komputasi GPU.
Berdasarkan arsitektur Turing, setiap GPU menyediakan memori GPU 16 GB dan bandwidth memori 320 GB/s.
Tensor Core presisi variabel memberikan hingga 65 TFLOPS (FP16), 130 TOPS (INT8), dan 260 TOPS (INT4).
Spesifikasi pod yang didukung adalah sebagai berikut:
Instance family | GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
single-node family | 1 (16 GB GPU memory) | 2 | 2–8 | 1 | 30–1536 |
4 | 4–16 | 1 | |||
6 | 6–24 | 1 | |||
8 | 8–32 | 1 | |||
10 | 10–40 | 1 | |||
12 | 12–48 | 1 | |||
14 | 14–56 | 1 | |||
16 | 16–64 | 1 | |||
24 | 24, 48, 90 | N/A | |||
2 (16 GB GPU memory) | 16 | 16–64 | 1 | ||
24 | 24, 48, 96 | N/A | |||
32 | 32, 64, 128 | N/A | |||
48 | 48, 96, 180 | N/A |
A10
GPU.
Berdasarkan arsitektur Ampere, setiap GPU memiliki memori 24 GB dan mendukung fitur akselerasi umum seperti RTX dan TensorRT.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU | vCPU | Memory (GiB) | Memory increment (GiB) | Storage (GiB) |
1 (24 GB) | 2 | 2–8 | 1 | 30–256 |
4 | 4–16 | 1 | ||
6 | 6–24 | 1 | ||
8 | 8–32 | 1 | ||
10 | 10–40 | 1 | ||
12 | 12–48 | 1 | ||
14 | 14–56 | 1 | ||
16 | 16–60 | 1 | ||
2 (24 GB x 2) | 16 | 16–64 | N/A | 30–512 |
32 | 32, 64, 120 | N/A | ||
4 (24 GB x 4) | 32 | 32, 64, 128 | N/A | 30–1.024 |
64 | 64, 128, 240 | N/A | ||
8 (24 GB x 8) | 64 | 64, 128, 256 | N/A | 30–2.048 |
128 | 128, 256, 480 | N/A |
G28Ti
Kartu GPU.
Menyediakan memori GPU 11 GB per GPU dan mendukung fitur akselerasi umum seperti TensorRT dan CUDA. Juga mendukung NVLink dan komunikasi P2P antar GPU.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU (cards) | vCPU | Memory (GiB) | Memory step size (GiB) | Storage (GiB) |
1 (11 GB GPU memory) | 2 | 2 to 8 | 1 | 30 to 1.536 |
4 | 4 to 16 | 1 | ||
6 | 6 to 24 | 1 | ||
8 | 8 to 32 | 1 | ||
10 | 10 to 40 | 1 | ||
12 | 12 to 48 | 1 |
G49E
G49E adalah kartu komputasi GPU.
Setiap GPU menyediakan memori GPU 48 GB, mendukung fitur akselerasi umum seperti RTX dan TensorRT, serta memungkinkan komunikasi peer-to-peer (P2P) antar GPU.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU (cards) | vCPU | Memory (GiB) | Memory step size (GiB) | Storage (GiB) |
1 (48 GB GPU memory) | 2 | 2 hingga 16 | 1 | 30 hingga 256 |
4 | 4 hingga 32 | 1 | ||
6 | 6 hingga 48 | 1 | ||
8 | 8 hingga 64 | 1 | ||
10 | 10 hingga 80 | 1 | ||
12 | 12 hingga 96 | 1 | ||
14 | 14 hingga 112 | 1 | ||
16 | 16 hingga 120 | 1 | ||
2 (48 GB × 2 GPU memory) | 16 | 16 hingga 128 | 1 | 30 hingga 512 |
32 | 32, 64, 128, 230 | N/A | ||
4 (48 GB × 4 GPU memory) | 32 | 32, 64, 128, 256 | N/A | 30 hingga 1024 |
64 | 64, 128, 256, 460 | N/A | ||
8 (48 GB × 8 GPU memory) | 64 | 64, 128, 256, 512 | N/A | 30 hingga 2048 |
128 | 128, 256, 512, 920 | N/A |
G59
GPU.
Setiap GPU memiliki memori GPU 32 GB, mendukung fitur akselerasi seperti RTX dan TensorRT, serta memungkinkan komunikasi peer-to-peer (P2P) antar GPU.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU (cards) | vCPU | Memory (GiB) | Memory step size (GiB) | Storage (GiB) |
1 (32 GB GPU memory) | 2 | 2 to 16 | 1 | 30 to 256 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
22 | 22, 32, 64, 128 | N/A | ||
2 (32 GB × 2 GPU memory) | 16 | 16 to 128 | 1 | 30 to 512 |
32 | 32, 64, 128, 256 | N/A | ||
46 | 64, 128, 256, 360 | N/A | ||
4 (32 GB × 4 GPU memory) | 32 | 32, 64, 128, 256 | N/A | 30 hingga 1.024 |
64 | 64, 128, 256, 512 | N/A | ||
92 | 128, 256, 512, 720 | N/A | ||
8 (32 GB × 8 GPU memory) | 64 | 64, 128, 256, 512 | N/A | 30 hingga 2.048 |
128 | 128, 256, 512, 1.024 | N/A | ||
184 | 256, 512, 1.024, 1.440 | N/A |
L20N
L20N adalah kartu komputasi GPU.
Dilengkapi arsitektur Blackwell baru, CPU frekuensi tinggi, dan memori besar.
Ideal untuk akselerasi GPU hemat biaya dalam berbagai skenario, termasuk pelatihan untuk kendaraan otonom dan kecerdasan terwujud, inferensi model besar, rendering film dan animasi, aplikasi metaverse, serta cloud gaming.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU (cards) | vCPU | Memory (GiB) | Memory step size (GiB) | Storage (GiB) |
1 (48 GB GPU memory) | 2 | 2 to 16 | 1 | 30 hingga 2.048 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
32 | 32, 64, 128, 256 | N/A | ||
2 (48 GB × 2 GPU memory) | 16 | 16 to 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 512 | N/A | ||
4 (48 GB × 4 GPU memory) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 1.024 | N/A | ||
8 (48 GB × 8 GPU memory) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1.024 | N/A | ||
256 | 256, 512, 1.024, 2.048 | N/A |
L20NE
Kartu GPU.
Menyediakan CPU frekuensi tinggi, memori kapasitas besar, dan kartu grafis profesional berbasis arsitektur Blackwell baru.
Memberikan layanan cloud GPU hemat biaya untuk beban kerja yang dipercepat GPU seperti kendaraan otonom, pelatihan kecerdasan terwujud, inferensi model besar, rendering film dan animasi, metaverse, serta cloud gaming.
Spesifikasi pod yang didukung adalah sebagai berikut:
GPU (cards) | vCPU | Memory (GiB) | Memory step size (GiB) | Storage (GiB) |
1 (72 GB GPU memory) | 2 | 2 to 16 | 1 | 30 to 2.048 |
4 | 4 to 32 | 1 | ||
6 | 6 to 48 | 1 | ||
8 | 8 to 64 | 1 | ||
10 | 10 to 80 | 1 | ||
12 | 12 to 96 | 1 | ||
14 | 14 to 112 | 1 | ||
16 | 16 to 128 | 1 | ||
32 | 32, 64, 128, 180 | N/A | ||
2 (72 GB × 2 GPU memory) | 16 | 16 to 128 | 1 | |
32 | 32, 64, 128, 256 | N/A | ||
64 | 64, 128, 256, 360 | N/A | ||
4 (72 GB × 4 GPU memory) | 32 | 32, 64, 128, 256 | N/A | |
64 | 64, 128, 256, 512 | N/A | ||
128 | 128, 256, 512, 720 | N/A | ||
8 (72 GB × 8 GPU memory) | 64 | 64, 128, 256, 512 | N/A | |
128 | 128, 256, 512, 1.024 | N/A | ||
256 | 256, 512, 1.024, 1.440 | N/A |