Elastic GPU Service menyediakan komputasi berakselerasi GPU yang on-demand dan auto-scaling. Sebagai bagian dari keluarga Elastic Computing Alibaba Cloud, layanan ini menggabungkan daya komputasi GPU dan CPU untuk kasus penggunaan seperti artificial intelligence (AI), high-performance computing (HPC), serta pemrosesan grafis dan gambar profesional.
-
Lihat ketersediaan instans berdasarkan wilayah: Tipe instans dapat berbeda tergantung wilayahnya. Kami menyarankan Anda memeriksa ketersediaan pembelian di setiap wilayah.
-
Lihat panduan pemilihan tipe instans: Pertama, tentukan keluarga instans yang sesuai dengan skenario bisnis Anda. Kemudian, gunakan topik ini untuk memilih tipe instans tertentu.
-
Lihat deskripsi metrik instans: Baca topik ini untuk memahami metrik tipe instans.
-
Gunakan Kalkulator Harga ECS: Anda dapat menggunakan kalkulator harga untuk memperkirakan biaya instans.
Virtualisasi GPU | Komputasi GPU | Tidak direkomendasikan |
Keluarga instans sgn8ia dipercepat vGPU
Ikhtisar:
Ditenagai oleh arsitektur SHENLONG generasi ketiga, instans sgn8ia memberikan performa ultra-tinggi yang stabil dan dapat diprediksi. Akselerasi tingkat chip meningkatkan signifikan performa penyimpanan, jaringan, dan komputasi, membantu Anda menyimpan data dan memuat model lebih cepat.
Instans ini mencakup lisensi perangkat lunak NVIDIA GRID Virtual Workstation (vWS) yang menyediakan akselerasi grafis bersertifikasi untuk berbagai aplikasi desain berbantuan komputer (CAD) profesional. Instans ini juga dapat berfungsi sebagai instans berakselerasi GPU ringan dan hemat biaya untuk beban kerja inferensi AI skala kecil.
Kasus penggunaan:
Beban kerja inferensi AI konkuren yang memerlukan CPU frekuensi tinggi, memori besar, dan GPU kuat, seperti pengenalan gambar, pengenalan suara, dan identifikasi perilaku.
Aplikasi intensif grafis yang memerlukan virtualisasi grafis 3D berkinerja tinggi, seperti desain grafis jarak jauh dan cloud gaming. Instans ini mendukung fitur RTX dan dipasangkan dengan CPU frekuensi tinggi.
Pemodelan 3D untuk produksi film dan animasi, cloud gaming, dan desain mekanik. Prosesor AMD Genoa frekuensi tinggi, dengan kecepatan clock hingga 3,75 GHz, memberikan performa unggul untuk tugas-tugas ini.
Komputasi:
Dilengkapi GPU berarsitektur NVIDIA Lovelace yang memiliki:
Memori GPU besar dan berbagai opsi slicing GPU.
Dukungan untuk fitur akselerasi umum seperti vGPU, RTX, dan TensorRT untuk berbagai beban kerja.
Prosesor: Prosesor AMD Genoa frekuensi tinggi dengan kecepatan clock 3,4 GHz hingga 3,75 GHz, memberikan daya komputasi lebih tinggi untuk pemodelan 3D.
Penyimpanan:
Semua instance dalam family ini dioptimalkan untuk I/O.
-
Instans ini mendukung protokol NVMe. Untuk informasi selengkapnya, lihat Ikhtisar protokol NVMe.
Tipe disk cloud yang didukung: disk cloud ESSD, disk cloud ESSD AutoPL, dan disk cloud ESSD regional. Untuk informasi selengkapnya tentang disk cloud, lihat Ikhtisar penyimpanan blok.
Jaringan:
Instans ini mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans, karena instans yang lebih besar menawarkan performa lebih baik.
Tabel berikut mencantumkan tipe dan spesifikasi instans untuk keluarga sgn8ia.
Tipe instans | vCPU | Memori (GiB) | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (pps) | Antrian NIC | ENI | IP privat per ENI | Maksimum disk cloud | IOPS dasar | Throughput dasar (MB/s) |
ecs.sgn8ia-m2.xlarge | 4 | 16 | 2 GB | 2,5 | 1.000.000 | 4 | 4 | 15/15 | 9 | 30.000 | 244 |
ecs.sgn8ia-m4.2xlarge | 8 | 32 | 4 GB | 4 | 1.600.000 | 8 | 4 | 15/15 | 9 | 45.000 | 305 |
ecs.sgn8ia-m8.4xlarge | 16 | 64 | 8 GB | 7 | 2.000.000 | 16 | 8 | 30/30 | 17 | 60.000 | 427 |
ecs.sgn8ia-m16.8xlarge | 32 | 128 | 16 GB | 10 | 3.000.000 | 32 | 8 | 30/30 | 33 | 80.000 | 610 |
ecs.sgn8ia-m24.12xlarge | 48 | 192 | 24 GB | 16 | 4.500.000 | 48 | 8 | 30/30 | 33 | 120.000 | 1000 |
ecs.sgn8ia-m48.24xlarge | 96 | 384 | 48 GB | 32 | 9.000.000 | 64 | 15 | 30/30 | 33 | 240.000 | 2000 |
Spesifikasi GPU dalam tabel mengacu pada slice vGPU yang dibuat menggunakan teknologi vGPU.
Untuk instans sgn8ia, memori dan memori GPU merupakan resource khusus. vCPU adalah resource bersama dengan rasio oversubscription sekitar 1:1,5. Jika beban kerja Anda memerlukan daya komputasi CPU khusus, gunakan instans khusus dengan GPU passthrough, seperti instans dari keluarga gn7i yang dioptimalkan untuk komputasi dengan akselerasi GPU.
sgn7i-vws, keluarga instans dipercepat vGPU dengan CPU bersama
Ikhtisar:
Ditenagai oleh arsitektur SHENLONG generasi ketiga, instans sgn7i-vws memberikan performa tinggi yang stabil dan dapat diprediksi. Instans ini menggunakan akselerasi fast path tingkat chip untuk meningkatkan performa penyimpanan, jaringan, dan stabilitas komputasi, membantu Anda menyimpan data dan memuat model lebih cepat.
Instans dalam keluarga ini berbagi resource CPU dan jaringan untuk memaksimalkan pemanfaatan resource dasar. Memori dan memori GPU dikhususkan untuk setiap instans, memastikan isolasi data dan performa konsisten.
CatatanJika Anda memerlukan resource CPU khusus, pilihlah keluarga instans vgn7i-vws.
Instans ini mencakup lisensi perangkat lunak NVIDIA GRID Virtual Workstation (vWS), yang menyediakan driver akselerasi grafis bersertifikasi untuk berbagai aplikasi CAD profesional. Instans ini juga dapat digunakan sebagai instans komputasi GPU ringan dan hemat biaya untuk beban kerja inferensi AI skala kecil.
Kasus penggunaan:
Dilengkapi CPU, memori, dan GPU berperforma tinggi, instans ini cocok untuk tugas inferensi AI konkuren seperti pengenalan gambar, pengenalan suara, dan pengenalan perilaku.
Mendukung fitur RTX dan CPU frekuensi tinggi, instans ini menyediakan virtualisasi grafis 3D berperforma tinggi, ideal untuk beban kerja intensif grafis seperti desain grafis jarak jauh dan cloud gaming.
Ditenagai oleh prosesor Intel Ice Lake, instans ini memberikan performa luar biasa untuk pemodelan 3D di bidang seperti produksi film dan animasi, cloud gaming, dan desain mekanik.
Komputasi:
Dilengkapi GPU NVIDIA A10.
Arsitektur NVIDIA Ampere inovatif.
Dukungan untuk fitur akselerasi umum seperti vGPU, RTX, dan TensorRT untuk berbagai beban kerja.
Prosesor: Prosesor Intel® Xeon® Scalable (Ice Lake) 2,9 GHz dengan frekuensi turbo semua-core 3,5 GHz.
Penyimpanan:
Instans Optimasi I/O.
Tipe disk cloud yang didukung: disk cloud ESSD, disk cloud ESSD AutoPL, dan Disk cloud ESSD redundansi zona. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang komunikasi IPv6, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans; tipe yang lebih besar menawarkan performa lebih tinggi.
Keluarga instans sgn7i-vws mencakup tipe dan spesifikasi instans yang tercantum dalam tabel berikut:
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (PPS) | Antrian NIC | ENIs | Alamat IPv4 privat | Alamat IPv6 |
ecs.sgn7i-vws-m2.xlarge | 4 | 15,5 | NVIDIA A10 * 1/12 | 24 GB * 1/12 | 1,5/5 | 500.000 | 4 | 2 | 2 | 1 |
ecs.sgn7i-vws-m4.2xlarge | 8 | 31 | NVIDIA A10 * 1/6 | 24 GB * 1/6 | 2,6/10 | 1.000.000 | 4 | 4 | 6 | 1 |
ecs.sgn7i-vws-m8.4xlarge | 16 | 62 | NVIDIA A10 * 1/3 | 24 GB * 1/3 | 5/20 | 2.000.000 | 8 | 4 | 10 | 1 |
ecs.sgn7i-vws-m2s.xlarge | 4 | 8 | NVIDIA A10 * 1/12 | 24 GB * 1/12 | 1,5/5 | 500.000 | 4 | 2 | 2 | 1 |
ecs.sgn7i-vws-m4s.2xlarge | 8 | 16 | NVIDIA A10 * 1/6 | 24 GB * 1/6 | 2,6/10 | 1.000.000 | 4 | 4 | 6 | 1 |
ecs.sgn7i-vws-m8s.4xlarge | 16 | 32 | NVIDIA A10 * 1/3 | 24 GB * 1/3 | 5/20 | 2.000.000 | 8 | 4 | 10 | 1 |
Kolom GPU menunjukkan model GPU dan informasi slicing GPU. Slicing GPU membagi GPU fisik menjadi beberapa slice dan mengalokasikan satu slice ke setiap instans.
Sebagai contoh, dalam NVIDIA A10 * 1/12, NVIDIA A10 adalah model GPU, dan 1/12 berarti satu GPU fisik dibagi menjadi 12 slice, dengan satu slice dialokasikan ke instans tersebut.
vgn7i-vws, keluarga instans dipercepat vGPU
Ikhtisar
Dibangun di atas arsitektur Shenlong generasi ketiga, instans ini memberikan performa tinggi yang stabil dan dapat diprediksi. Instans ini menggunakan akselerasi fast path tingkat chip untuk secara signifikan meningkatkan performa penyimpanan, jaringan, dan stabilitas komputasi, memungkinkan Anda menyimpan data dan memuat model lebih cepat.
Instans ini mencakup lisensi perangkat lunak NVIDIA GRID vWS, menyediakan driver akselerasi grafis bersertifikasi untuk aplikasi CAD profesional dan beban kerja desain grafis. Instans ini juga dapat digunakan sebagai instans komputasi ringan dan hemat biaya untuk inferensi AI skala kecil.
Kasus penggunaan
Dengan CPU, memori, dan GPU berperforma tinggi, instans ini dapat menangani volume besar tugas inferensi AI konkuren, seperti pengenalan gambar, pengenalan suara, dan pengenalan perilaku.
Instans ini mendukung fitur RTX dan dipasangkan dengan CPU frekuensi tinggi untuk menyediakan virtualisasi grafis 3D berperforma tinggi, menjadikannya ideal untuk desain grafis jarak jauh, cloud gaming, dan beban kerja pemrosesan grafis lain yang menuntut.
Ditenagai oleh prosesor Intel Ice Lake, instans ini memberikan performa luar biasa untuk pemodelan 3D di bidang seperti produksi film dan animasi, cloud gaming, dan desain mekanik.
Komputasi
Instans ini dilengkapi GPU NVIDIA A10.
Berdasarkan arsitektur NVIDIA Ampere inovatif.
Mendukung fitur akselerasi umum seperti vGPU, RTX, dan TensorRT.
Prosesor: Prosesor Intel® Xeon® Scalable (Ice Lake) 2,9 GHz dengan frekuensi turbo semua-core 3,5 GHz.
Penyimpanan
Ini adalah instans Optimasi I/O.
Tipe disk cloud yang didukung: disk cloud ESSD, disk cloud ESSD AutoPL, dan Disk cloud ESSD Redundansi Intra-kota. Untuk informasi selengkapnya tentang disk cloud, lihat Ikhtisar penyimpanan blok.
Jaringan
Instans ini mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang komunikasi IPv6, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans. Tipe instans yang lebih besar menawarkan performa jaringan lebih baik.
Keluarga instans vgn7i-vws mencakup tipe dan spesifikasi instans berikut.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita dasar (Gbit/s) | Laju pengalihan (pps) | Antrian NIC | ENIs | Alamat IPv4 privat | Alamat IPv6 |
ecs.vgn7i-vws-m4.xlarge | 4 | 30 | NVIDIA A10 * 1/6 | 24GB * 1/6 | 3 | 1.000.000 | 4 | 4 | 10 | 1 |
ecs.vgn7i-vws-m8.2xlarge | 10 | 62 | NVIDIA A10 * 1/3 | 24GB * 1/3 | 5 | 2.000.000 | 8 | 6 | 10 | 1 |
ecs.vgn7i-vws-m12.3xlarge | 14 | 93 | NVIDIA A10 * 1/2 | 24GB * 1/2 | 8 | 3.000.000 | 8 | 6 | 15 | 1 |
ecs.vgn7i-vws-m24.7xlarge | 30 | 186 | NVIDIA A10 * 1 | 24GB * 1 | 16 | 6.000.000 | 12 | 8 | 30 | 1 |
Kolom GPU dalam tabel di atas menunjukkan model GPU dan informasi slicing GPU. Slicing GPU membagi GPU fisik menjadi beberapa slice, memungkinkan setiap instans menggunakan satu slice. Sebagai contoh:
Dalam NVIDIA A10 * 1/6, NVIDIA A10 adalah model GPU, dan 1/6 menunjukkan bahwa GPU fisik dibagi menjadi enam slice dan instans menggunakan salah satunya.
vgn6i-vws, keluarga instans dipercepat vGPU
Alibaba Cloud telah meningkatkan keluarga instans vgn6i menjadi vgn6i-vws. Keluarga instans baru ini menggunakan driver NVIDIA GRID terbaru dan mencakup lisensi GRID vWS gratis. Untuk meminta image gratis dengan driver GRID yang telah dipra-instal, kirim tiket.
Jika Anda perlu menggunakan image publik atau image kustom yang tidak menyertakan driver GRID, kirim tiket untuk meminta paket driver GRID untuk instalasi terpisah. Alibaba Cloud tidak membebankan biaya lisensi tambahan untuk driver GRID.
Kasus penggunaan:
Rendering real-time untuk cloud gaming.
Rendering real-time untuk aplikasi augmented reality (AR) dan virtual reality (VR).
Inferensi AI (DL dan ML) untuk layanan internet yang dideploy secara elastis.
Lingkungan pelatihan langsung untuk deep learning.
Lingkungan eksperimen model untuk deep learning.
Komputasi:
Dilengkapi akselerator GPU NVIDIA T4.
Instans ini menggunakan vGPU yang dibuat oleh slicing GPU.
Menyediakan 1/4 atau 1/2 kemampuan komputasi dari GPU NVIDIA Tesla T4 penuh.
Menawarkan memori GPU 4 GB atau 8 GB.
Memiliki rasio vCPU terhadap memori sekitar 1:5.
Prosesor: Intel ® Xeon ® Platinum 8163 (Skylake) 2,5 GHz.
Penyimpanan:
Semua instans dalam keluarga ini adalah Optimasi I/O.
Tipe disk cloud yang didukung: ESSD, disk cloud ESSD AutoPL, ESSD Regional, SSD standar, dan disk ultra. Untuk informasi selengkapnya tentang disk cloud, lihat Ikhtisar Elastic Block Storage.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
Tabel berikut mencantumkan tipe dan spesifikasi instans untuk keluarga instans vgn6i-vws .
Tipe instans | vCPUs | Memori (GiB) | GPU | Memori GPU | Lebar pita dasar (Gbit/s) | Laju pengalihan (pps) | Antrian NIC | ENI | Alamat IPv4 privat | Alamat IPv6 |
ecs.vgn6i-m4-vws.xlarge | 4 | 23 | NVIDIA T4 * 1/4 | 16 GB * 1/4 | 2 | 500.000 | 4/2 | 3 | 10 | 1 |
ecs.vgn6i-m8-vws.2xlarge | 10 | 46 | NVIDIA T4 * 1/2 | 16 GB * 1/2 | 4 | 800.000 | 8/2 | 4 | 10 | 1 |
ecs.vgn6i-m16-vws.5xlarge | 20 | 92 | NVIDIA T4 * 1 | 16 GB * 1 | 7,5 | 1.200.000 | 6 | 4 | 10 | 1 |
Kolom GPU dalam tabel di atas menunjukkan model GPU dan informasi slicing GPU. Slicing GPU membagi GPU fisik menjadi beberapa slice, dan setiap instans menggunakan satu slice.
Dalam NVIDIA T4 * 1/4, NVIDIA T4 adalah model GPU, dan 1/4 menunjukkan bahwa satu GPU dibagi menjadi empat slice, dengan setiap instans menggunakan satu.
gn9gc, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
gn9gc sedang dalam pratinjau undangan. Untuk menggunakan gn9gc, kirim tiket.
Ikhtisar: gn9gc adalah keluarga instans server cloud GPU hemat biaya generasi ke-9 Alibaba Cloud. Instans ini menggunakan CIPU 2.0 generasi terbaru untuk memberikan kemampuan layanan cloud, memiliki prosesor kecepatan clock tinggi, dan dikonfigurasi dengan kapasitas memori yang sesuai. Keluarga instans ini menyediakan instans hemat biaya untuk skenario generasi model bahasa besar (LLM) dan skenario generasi video/gambar. GPU juga dapat langsung memberikan kemampuan pemrosesan grafis untuk mendukung berbagai beban kerja rendering.
Kasus penggunaan:
Inferensi LLM: GPU generasi baru memberikan daya komputasi yang melampaui generasi ke-8 dengan bandwidth memori yang meningkat secara signifikan. Dukungan FP4 yang baru secara komprehensif meningkatkan performa dan efisiensi biaya inferensi. Efisiensi inferensi paralel multi-GPU sangat ditingkatkan.
Komputasi:
Menggunakan prosesor cloud CIPU 2.0 terbaru.
CIPU generasi ke-2 menyediakan daya pemrosesan cloud lebih tinggi dengan peningkatan kemampuan komponen eRDMA, VPC, dan EBS. Mendukung kontainer (termasuk namun tidak terbatas pada Docker, Clear Container, dan Pouch).
Menggunakan kartu grafis profesional berarsitektur Blackwell generasi baru:
Mendukung pemrosesan grafis profesional OpenGL.
Mendukung fitur akselerasi umum seperti RTX, TensorRT, dengan dukungan FP4 yang ditingkatkan dan interkoneksi PCIe Gen5.
Spesifikasi utama GPU:
Arsitektur GPU
Memori GPU
Performa komputasi
Pengkodean/penguraian video
Interkoneksi antar-GPU
API akselerasi
NVIDIA Blackwell
Kapasitas: 72 GB
Bandwidth: 1.344 GB/s
TF32: 126 TFLOPS
FP32: 52 TFLOPS
FP16/BF16: 266 TFLOPS
FP8/INT8: 530 TFLOPS
FP4: 970 TFLOPS
RT Core: 196 TFLOPS
3 x Pengkode Video
3 x Dekoder Video
Antarmuka PCIe: PCIe Gen5 x16
Bandwidth: 128 GB/s, P2P didukung
DX12, OpenGL 4.6, Vulkan 1.3, CUDA 12.8, OpenCL 3.0, DirectCompute
Penyimpanan:
Optimasi I/O.
Mendukung protokol NVMe. Untuk informasi selengkapnya, lihat Protokol NVMe.
Tipe disk cloud yang didukung: disk elastis sementara, ESSD, disk ESSD AutoPL, dan ESSD regional. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang IPv6, lihat IPv6.
Performa jaringan ultra-tinggi dengan hingga 30 juta PPS (instans 8-GPU).
Mendukung ERI (Elastic RDMA Interface) untuk akselerasi langsung RDMA melalui jaringan VPC, dengan bandwidth hingga 360 Gbit/s. Cocok untuk beban kerja pelatihan model tradisional, visi komputer, kecerdasan terwujud, dan pengemudian otonom.
- Catatan
Untuk informasi selengkapnya tentang ERI, lihat Aktifkan eRDMA pada instans tingkat enterprise.
Tabel berikut menjelaskan tipe instans dalam keluarga instans gn9gc.
Tipe instans | vCPUs | Memori (GiB) | Memori GPU | Lebar pita dasar/burst (Gbit/s) | Laju pengalihan paket (pps) | Alamat IPv4 per ENI | Alamat IPv6 per ENI | Antrian NIC (primer/sekunder) | ENIs | Maks disk data | Maks bandwidth disk (GB/s) |
ecs.gn9gc.4xlarge | 16 | 128 | 72 GB × 1 | 16 | 3,6 juta | 30 | 30 | 8/32 | 8 | 1 | 1 |
ecs.gn9gc.8xlarge | 32 | 192 | 72 GB × 1 | 32 | 7,5 juta | 30 | 30 | 16/64 | 8 | 1 | 1 |
ecs.gn9gc-2x.16xlarge | 64 | 384 | 72 GB × 2 | 65 | 15 juta | 30 | 30 | 32/64 | 15 | 2 | 2 |
ecs.gn9gc-4x.32xlarge | 128 | 768 | 72 GB × 4 | 131 | 30 juta | 50 | 50 | 64/64 | 15 | 4 | 4 |
ecs.gn9gc-8x.64xlarge | 256 | 1.536 | 72 GB × 8 | 204 | 30 juta | 50 | 50 | 128/64 | 15 | 6 | 6 |
Image yang digunakan untuk instans gn9gc harus dalam mode boot UEFI. Jika Anda ingin menggunakan image kustom, pastikan image kustom tersebut mendukung mode boot UEFI dan atribut mode boot image diatur ke UEFI. Untuk informasi selengkapnya, lihat Atur mode boot image kustom ke UEFI dengan memanggil operasi API.
gn8v dan gn8v-tee, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Keluarga instans ini tersedia di wilayah tertentu, termasuk wilayah di luar Tiongkok daratan. Untuk menggunakannya, hubungi perwakilan penjualan Alibaba Cloud Anda.
Pengantar:
gn8v: Keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU generasi ke-8 dari Alibaba Cloud untuk pelatihan dan inferensi model AI pada model bahasa besar (LLM) ultra-besar. Keluarga ini menyediakan tipe instans dengan satu, dua, empat, atau delapan GPU untuk berbagai kebutuhan aplikasi.
gn8v-tee: Untuk meningkatkan keamanan pelatihan dan inferensi model besar, Alibaba Cloud menawarkan gn8v-tee, keluarga instans generasi ke-8 berbasis gn8v dengan fitur komputasi rahasia. Instans ini mengenkripsi data selama komputasi GPU untuk melindungi data Anda.
Kasus penggunaan:
Hemat biaya untuk inferensi paralel multi-GPU pada LLM dengan lebih dari 70 miliar parameter.
Setiap GPU menyediakan daya komputasi FP32 sebesar 39,5 TFLOPS dan memberikan performa luar biasa untuk beban kerja pelatihan model AI tradisional dan pelatihan pengemudian otonom.
Delapan GPU mendukung interkoneksi NVLink dan cocok untuk pelatihan model skala kecil hingga menengah.
Fitur:
Memori GPU berkecepatan tinggi dan berkapasitas besar: Setiap GPU dilengkapi memori GPU HBM3 96 GB dan menyediakan bandwidth memori hingga 4 TB/s, secara signifikan mempercepat pelatihan dan inferensi model.
Bandwidth antar-GPU tinggi: Beberapa GPU saling terhubung dengan NVLink pada 900 GB/s. Ini memungkinkan efisiensi jauh lebih tinggi untuk pelatihan dan inferensi multi-GPU dibandingkan instans GPU generasi sebelumnya.
Kuantisasi LLM: Mendukung daya komputasi FP8, yang mengoptimalkan performa untuk pelatihan dan inferensi parameter skala besar. Ini secara signifikan meningkatkan kecepatan pelatihan dan inferensi serta mengurangi penggunaan memori GPU.
(Hanya untuk instans gn8v-tee) Keamanan tinggi: Mendukung komputasi rahasia CPU dengan Intel® Trust Domain Extensions (TDX) dan komputasi rahasia GPU dengan NVIDIA Confidential Computing (CC). Ini menyediakan komputasi rahasia end-to-end untuk seluruh pipeline inferensi model, melindungi data inferensi dan model perusahaan Anda selama pelatihan dan inferensi model.
Komputasi:
Ditenagai oleh CIPU 1.0 terbaru.
Memisahkan komputasi dari penyimpanan, memungkinkan Anda memilih secara fleksibel resource penyimpanan yang Anda butuhkan.
Menyediakan kemampuan bare metal, yang mendukung komunikasi peer-to-peer (P2P) antar instans GPU, tidak seperti instans virtualisasi tradisional.
Ditenagai oleh prosesor Intel® Xeon® Scalable generasi ke-4 dengan frekuensi dasar hingga 2,8 GHz dan frekuensi turbo semua-core hingga 3,1 GHz.
Penyimpanan:
Instans Optimasi I/O.
-
Instans ini mendukung protokol NVMe. Untuk informasi selengkapnya, lihat Ikhtisar protokol NVMe.
Tipe disk cloud yang didukung: disk elastis sementara, ESSD, disk ESSD AutoPL, dan ESSD Regional. Untuk informasi selengkapnya tentang disk cloud, lihat ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang komunikasi IPv6, lihat Komunikasi IPv6.
-
Instans ini mendukung frame jumbo. Untuk informasi selengkapnya, lihat Frame jumbo.
Memberikan performa jaringan ultra-tinggi dengan laju pengalihan paket hingga 30 juta pps (pada instans 8-GPU).
Mendukung antarmuka RDMA elastis (ERI).
CatatanInstans komputasi rahasia keluarga gn8v-tee tidak mendukung perangkat ERI atau fungsionalitas eRDMA.
Untuk informasi tentang cara menggunakan ERI, lihat Aktifkan pada instans tingkat enterprise.
Keamanan: Mendukung fitur komputasi tepercaya (vTPM). Fitur ini tersedia pada instans gn8v tetapi tidak pada instans gn8v-tee. Untuk informasi selengkapnya, lihat Ikhtisar kemampuan komputasi tepercaya.
Tabel berikut menjelaskan tipe instans dalam keluarga gn8v.
Tipe instans | vCPUs | Memori (GiB) | Memori GPU | Lebar pita jaringan (Gbit/s) | ENIs | Antrian ENI primer | Alamat IPv4 per ENI | Alamat IPv6 per ENI | Maks disk cloud | IOPS dasar | Lebar pita dasar (GB/s) |
ecs.gn8v.4xlarge | 16 | 96 | 96 GB × 1 | 12 | 8 | 16 | 30 | 30 | 17 | 100.000 | 0,75 |
ecs.gn8v.6xlarge | 24 | 128 | 96 GB × 1 | 15 | 8 | 24 | 30 | 30 | 17 | 120.000 | 0,937 |
ecs.gn8v-2x.8xlarge | 32 | 192 | 96 GB × 2 | 20 | 8 | 32 | 30 | 30 | 25 | 200.000 | 1,25 |
ecs.gn8v-4x.8xlarge | 32 | 384 | 96 GB × 4 | 20 | 8 | 32 | 30 | 30 | 25 | 200.000 | 1,25 |
ecs.gn8v-2x.12xlarge | 48 | 256 | 96 GB × 2 | 25 | 8 | 48 | 30 | 30 | 33 | 300.000 | 1,50 |
ecs.gn8v-8x.16xlarge | 64 | 768 | 96 GB × 8 | 32 | 8 | 64 | 30 | 30 | 33 | 360.000 | 2,5 |
ecs.gn8v-4x.24xlarge | 96 | 512 | 96 GB × 4 | 50 | 15 | 64 | 30 | 30 | 49 | 500.000 | 3 |
ecs.gn8v-8x.48xlarge | 192 | 1024 | 96 GB × 8 | 100 | 15 | 64 | 50 | 50 | 65 | 1.000.000 | 6 |
Tabel berikut menjelaskan tipe instans dalam keluarga gn8v-tee .
Tipe instans | vCPUs | Memori (GiB) | Memori GPU | Lebar pita jaringan (Gbit/s) | ENIs | Antrian ENI primer | Alamat IPv4 per ENI | Alamat IPv6 per ENI | Maks disk cloud | IOPS dasar | Lebar pita dasar (GB/s) |
ecs.gn8v-tee.4xlarge | 16 | 96 | 96 GB × 1 | 12 | 8 | 16 | 30 | 30 | 17 | 100.000 | 0,75 |
ecs.gn8v-tee.6xlarge | 24 | 128 | 96 GB × 1 | 15 | 8 | 24 | 30 | 30 | 17 | 120.000 | 0,937 |
ecs.gn8v-tee-8x.16xlarge | 64 | 768 | 96 GB × 8 | 32 | 8 | 64 | 30 | 30 | 33 | 360.000 | 2,5 |
ecs.gn8v-tee-8x.48xlarge | 192 | 1024 | 96 GB × 8 | 100 | 15 | 64 | 50 | 50 | 65 | 1.000.000 | 6 |
Keluarga instans gn8v-tee hanya mendukung image Alibaba Cloud Linux 3. Jika Anda menggunakan image kustom yang dibangun di atas Alibaba Cloud Linux 3 untuk membuat instans, pastikan versi kernel adalah 5.10.134-18 atau lebih baru.
gn8is, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Keluarga instans ini tersedia di wilayah tertentu, termasuk wilayah di luar Tiongkok daratan. Untuk menggunakan keluarga instans ini, hubungi perwakilan penjualan Alibaba Cloud Anda.
Pengantar: gn8is adalah keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU generasi kedelapan Alibaba Cloud, dirancang untuk memenuhi permintaan yang terus berkembang dari konten yang dihasilkan AI (AIGC). Ditenagai oleh GPU NVIDIA L20 terbaru, keluarga ini menawarkan tipe instans dengan satu, dua, empat, atau delapan GPU, dan berbagai rasio CPU terhadap GPU untuk memenuhi kebutuhan aplikasi yang beragam.
Fitur:
Pemrosesan grafis: Ditenagai oleh prosesor Intel® Xeon® Scalable frekuensi tinggi generasi ke-4, instans ini menyediakan daya komputasi CPU yang kuat untuk skenario pemodelan 3D, memastikan rendering grafis dan alur kerja desain yang lebih lancar.
Tugas inferensi: Dilengkapi GPU NVIDIA L20 baru, masing-masing dengan memori GPU 48 GB, instans ini mempercepat tugas inferensi. Instans ini mendukung format floating-point FP8 dan dapat dipasangkan dengan Container Service for Kubernetes (ACK) untuk menjalankan inferensi berbagai model AIGC secara fleksibel. Instans ini sangat cocok untuk tugas inferensi pada model bahasa besar (LLM) dengan kurang dari 70 miliar parameter.
Kasus penggunaan:
Gunakan driver GRID dengan image dari Alibaba Cloud Marketplace untuk mengaktifkan kemampuan OpenGL dan Direct3D. Ini menyediakan pemrosesan grafis tingkat workstation untuk beban kerja seperti animasi, efek khusus film dan televisi, dan rendering.
Gunakan kemampuan manajemen kontainer Container Service for Kubernetes (ACK) untuk generasi gambar AIGC dan inferensi LLM yang lebih efisien dan hemat biaya.
Aplikasi AI tujuan umum lainnya, seperti pengenalan gambar dan pengenalan suara.
Komputasi:
Ditenagai oleh GPU NVIDIA L20 tingkat enterprise terbaru.
Mendukung fitur akselerasi umum seperti TensorRT dan format floating-point FP8 untuk meningkatkan performa inferensi model.
Hingga 48 GB memori GPU per GPU. Dengan beberapa GPU, instans dalam keluarga ini mendukung inferensi single-instance untuk model dengan 70 miliar parameter atau lebih.
Kemampuan pemrosesan grafis yang ditingkatkan. Setelah Anda menginstal driver GRID menggunakan Asisten Cloud atau image dari Alibaba Cloud Marketplace, performa pemrosesan grafis dua kali lipat dari platform generasi ke-7.
Parameter utama GPU NVIDIA L20:
Arsitektur GPU
Memori GPU
Performa komputasi
Pengkodean/penguraian video
Konektivitas antar-GPU
NVIDIA Ada Lovelace
Kapasitas: 48 GB
Bandwidth: 864 GB/s
FP64: N/A
FP32: 59,3 TFLOPS
FP16/BF16: 119 TFLOPS
FP8/INT8: 237 TFLOPS
3 × Pengkode Video (+AV1)
3 × Pengurai Video
4 × Pengurai JPEG
Antarmuka PCIe: PCIe Gen4 x16
Bandwidth: 64 GB/s
Prosesor: Ditenagai oleh prosesor Intel® Xeon® frekuensi tinggi terbaru dengan frekuensi turbo semua-core hingga 3,9 GHz untuk menangani permintaan pemodelan 3D yang kompleks.
Penyimpanan:
Semua instans dalam keluarga ini adalah instans Optimasi I/O.
-
Instans ini mendukung protokol NVMe. Untuk informasi selengkapnya, lihat Ikhtisar protokol NVMe.
Tipe disk cloud yang didukung: disk elastis sementara, ESSD, disk ESSD AutoPL, dan ESSD Regional. Untuk informasi selengkapnya tentang disk cloud, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang komunikasi IPv6, lihat Komunikasi IPv6.
Mendukung Antarmuka RDMA Elastis (ERI).
CatatanUntuk detail penggunaan ERI, lihat Aktifkan eRDMA untuk instans tingkat enterprise.
-
Keamanan: Instans ini mendukung fitur vTPM. Untuk informasi selengkapnya, lihat Ikhtisar komputasi tepercaya.
Tabel berikut menjelaskan tipe dan spesifikasi instans untuk keluarga gn8is.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | ENIs | Antrian ENI primer | Alamat IPv4 privat | Alamat IPv6 | Maks disk cloud | IOPS disk | Lebar pita disk (GB/s) |
ecs.gn8is.2xlarge | 8 | 64 | L20 × 1 | 48 GB × 1 | 8 | 4 | 8 | 15 | 15 | 17 | 60.000 | 0,75 |
ecs.gn8is.4xlarge | 16 | 128 | L20 × 1 | 48 GB × 1 | 16 | 8 | 16 | 30 | 30 | 17 | 120.000 | 1,25 |
ecs.gn8is-2x.8xlarge | 32 | 256 | L20 × 2 | 48 GB × 2 | 32 | 8 | 32 | 30 | 30 | 33 | 250.000 | 2 |
ecs.gn8is-4x.16xlarge | 64 | 512 | L20 × 4 | 48 GB × 4 | 64 | 8 | 64 | 30 | 30 | 33 | 450.000 | 4 |
ecs.gn8is-8x.32xlarge | 128 | 1024 | L20 × 8 | 48 GB × 8 | 100 | 15 | 64 | 50 | 50 | 65 | 900.000 | 8 |
gn7e, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Fitur keluarga instans gn7e meliputi:
Ikhtisar:
keluarga instans ini memungkinkan Anda memilih tipe instans dengan jumlah GPU dan resource CPU yang berbeda untuk memenuhi berbagai kebutuhan bisnis AI Anda.
Dibangun di atas arsitektur X-Dragon generasi ketiga, instans gn7e memberikan bandwidth jaringan rata-rata dua kali lipat untuk VPC dan disk cloud dibandingkan generasi sebelumnya.
Kasus penggunaan:
Beban kerja pelatihan AI skala kecil dan menengah.
Beban kerja komputasi kinerja tinggi (HPC) yang dipercepat menggunakan CUDA.
Beban kerja inferensi AI yang memerlukan performa komputasi GPU tinggi atau memori GPU besar.
Deep learning, seperti pelatihan algoritma AI untuk klasifikasi gambar, pengemudian otonom, dan pengenalan suara.
Komputasi ilmiah intensif GPU, seperti dinamika fluida komputasi, keuangan komputasi, dinamika molekuler, dan analisis lingkungan.
PentingSaat menjalankan beban kerja pelatihan AI dengan beban komunikasi tinggi, seperti model Transformer, Anda harus mengaktifkan NVLink untuk komunikasi antar-GPU. Jika tidak, transfer data skala besar melalui tautan PCIe dapat menyebabkan kegagalan tak terduga dan korupsi data. Jika Anda tidak yakin tentang topologi tautan komunikasi untuk beban kerja pelatihan Anda, kirim tiket untuk mendapatkan dukungan dari ahli teknis Alibaba Cloud.
Penyimpanan:
Semua instans dalam keluarga ini adalah Optimasi I/O.
Tipe disk cloud yang didukung: disk cloud ESSD, disk cloud ESSD AutoPL, dan disk cloud ESSD Redundansi Intra-kota. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans. Tipe instans yang lebih besar menawarkan performa jaringan lebih baik.
Keluarga instans gn7e mencakup tipe dan spesifikasi instans yang dijelaskan dalam tabel berikut.
Tipe instans | vCPUs | Memori (GiB) | Memori GPU | Lebar pita dasar (Gbit/s) | Laju pengalihan (pps) | Antrian | ENI | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn7e-c16g1.4xlarge | 16 | 125 | 80 GB × 1 | 8 | 3.000.000 | 8 | 8 | 10 | 1 |
ecs.gn7e-c16g1.8xlarge | 32 | 250 | 80 GB × 2 | 16 | 6.000.000 | 16 | 8 | 10 | 1 |
ecs.gn7e-c16g1.16xlarge | 64 | 500 | 80 GB × 4 | 32 | 12.000.000 | 32 | 8 | 10 | 1 |
ecs.gn7e-c16g1.32xlarge | 128 | 1000 | 80 GB × 8 | 64 | 24.000.000 | 32 | 16 | 15 | 1 |
gn7i, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Ikhtisar: Ditenagai oleh arsitektur SHENLONG generasi ketiga, instans gn7i memberikan performa tinggi yang stabil dan dapat diprediksi. Instans ini menggunakan akselerasi fast path tingkat chip untuk meningkatkan performa penyimpanan, jaringan, dan stabilitas komputasi hingga satu orde besaran.
Kasus penggunaan:
Dilengkapi CPU, memori, dan GPU berperforma tinggi, instans ini ideal untuk tugas inferensi AI konkuren, seperti pengenalan gambar, pengenalan suara, dan pengenalan perilaku.
Instans ini mendukung fitur RTX dan menggunakan CPU frekuensi tinggi untuk memberikan virtualisasi grafis 3D berperforma tinggi. Instans ini cocok untuk beban kerja intensif grafis, seperti desain grafis jarak jauh dan cloud gaming.
Komputasi:
Dilengkapi GPU NVIDIA A10 yang memiliki:
Arsitektur NVIDIA Ampere inovatif.
Dukungan untuk fitur akselerasi umum seperti RTX dan TensorRT.
Prosesor: Prosesor Intel ® Xeon ® Scalable (Ice Lake) 2,9 GHz dengan frekuensi turbo semua-core 3,5 GHz.
Keluarga instans ini menyediakan hingga 752 GiB memori, peningkatan signifikan dibandingkan keluarga instans gn6i.
Penyimpanan:
Semua instans dalam keluarga ini adalah Optimasi I/O.
Tipe disk cloud yang didukung: disk cloud ESSD, disk cloud ESSD AutoPL, dan disk cloud ESSD redundansi zona. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Instans ini mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans. Tipe instans yang lebih besar menawarkan performa jaringan lebih baik.
Keluarga instans gn7i mencakup tipe dan spesifikasi instans berikut.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (PPS) | Antrian NIC | ENI | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn7i-c8g1.2xlarge | 8 | 30 | NVIDIA A10 * 1 | 24 GB * 1 | 16 | 1.600.000 | 8 | 4 | 15 | 15 |
ecs.gn7i-c16g1.4xlarge | 16 | 60 | NVIDIA A10 * 1 | 24 GB * 1 | 16 | 3.000.000 | 8 | 8 | 30 | 30 |
ecs.gn7i-c32g1.8xlarge | 32 | 188 | NVIDIA A10 * 1 | 24 GB * 1 | 16 | 6.000.000 | 12 | 8 | 30 | 30 |
ecs.gn7i-c32g1.16xlarge | 64 | 376 | NVIDIA A10 * 2 | 24 GB * 2 | 32 | 12.000.000 | 16 | 15 | 30 | 30 |
ecs.gn7i-c32g1.32xlarge | 128 | 752 | NVIDIA A10 * 4 | 24 GB * 4 | 64 | 24.000.000 | 32 | 15 | 30 | 30 |
ecs.gn7i-c48g1.12xlarge | 48 | 310 | NVIDIA A10 * 1 | 24 GB * 1 | 16 | 9.000.000 | 16 | 8 | 30 | 30 |
ecs.gn7i-c56g1.14xlarge | 56 | 346 | NVIDIA A10 * 1 | 24 GB * 1 | 16 | 10.000.000 | 16 | 8 | 30 | 30 |
ecs.gn7i-2x.8xlarge | 32 | 128 | NVIDIA A10 * 2 | 24 GB * 2 | 16 | 6.000.000 | 16 | 8 | 30 | 30 |
ecs.gn7i-4x.8xlarge | 32 | 128 | NVIDIA A10 * 4 | 24 GB * 4 | 32 | 6.000.000 | 16 | 8 | 30 | 30 |
ecs.gn7i-4x.16xlarge | 64 | 256 | NVIDIA A10 * 4 | 24 GB * 4 | 64 | 12.000.000 | 32 | 8 | 30 | 30 |
ecs.gn7i-8x.32xlarge | 128 | 512 | NVIDIA A10 * 8 | 24 GB * 8 | 64 | 24.000.000 | 32 | 16 | 30 | 30 |
ecs.gn7i-8x.16xlarge | 64 | 256 | NVIDIA A10 * 8 | 24 GB * 8 | 32 | 12.000.000 | 32 | 8 | 30 | 30 |
Anda dapat mengubah instans tipe ecs.gn7i-2x.8xlarge, ecs.gn7i-4x.8xlarge, ecs.gn7i-4x.16xlarge, ecs.gn7i-8x.32xlarge, dan ecs.gn7i-8x.16xlarge menjadi ecs.gn7i-c8g1.2xlarge atau ecs.gn7i-c16g1.4xlarge. Namun, Anda tidak dapat mengubahnya menjadi tipe instans lain seperti ecs.gn7i-c32g1.8xlarge.
gn7s, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Untuk menggunakan keluarga instans gn7s, kirim tiket.
Pengantar:
Keluarga instans ini ditenagai oleh prosesor Intel Ice Lake terbaru dan GPU NVIDIA A30 berdasarkan arsitektur NVIDIA Ampere. Keluarga ini menawarkan berbagai tipe instans dengan konfigurasi GPU dan CPU yang berbeda untuk memenuhi kebutuhan AI spesifik Anda.
Dibangun di atas arsitektur SHENLONG generasi ketiga Alibaba Cloud, instans gn7s memberikan bandwidth jaringan rata-rata dua kali lipat untuk VPC dan disk cloud dibandingkan generasi sebelumnya.
Kasus penggunaan: Menampilkan CPU, memori, dan GPU berperforma tinggi, instans ini ideal untuk beban kerja inferensi AI konkuren, seperti pengenalan gambar, pengenalan suara, dan identifikasi perilaku.
Komputasi:
Menampilkan GPU NVIDIA A30, yang mencakup:
Arsitektur NVIDIA Ampere inovatif.
Dukungan untuk fitur Multi-Instance GPU (MIG) dan akselerasi berdasarkan Tensor Core generasi kedua untuk berbagai beban kerja.
Prosesor: Prosesor Intel ® Xeon ® Scalable (Ice Lake) 2,9 GHz dengan frekuensi turbo semua-core 3,5 GHz.
Menawarkan memori jauh lebih banyak dibandingkan keluarga instans generasi sebelumnya.
Penyimpanan:
Semua instans dalam keluarga ini adalah Optimasi I/O.
Tipe disk cloud yang didukung: ESSD, ESSD AutoPL, dan ESSD redundansi zona. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
Keluarga instans gn7s mencakup tipe dan spesifikasi instans berikut:
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (pps) | Alamat IPv4 privat per ENI | Alamat IPv6 per ENI | Multi-queue | ENIs |
ecs.gn7s-c8g1.2xlarge | 8 | 60 | NVIDIA A30 * 1 | 24GB * 1 | 16 | 1.600.000 | 5 | 1 | 8 | 4 |
ecs.gn7s-c16g1.4xlarge | 16 | 120 | NVIDIA A30 * 1 | 24GB * 1 | 16 | 3.000.000 | 5 | 1 | 8 | 8 |
ecs.gn7s-c32g1.8xlarge | 32 | 250 | NVIDIA A30 * 1 | 24GB * 1 | 16 | 6.000.000 | 5 | 1 | 12 | 8 |
ecs.gn7s-c32g1.16xlarge | 64 | 500 | NVIDIA A30 * 2 | 24GB * 2 | 32 | 12.000.000 | 5 | 1 | 16 | 15 |
ecs.gn7s-c32g1.32xlarge | 128 | 1000 | NVIDIA A30 * 4 | 24GB * 4 | 64 | 24.000.000 | 10 | 1 | 32 | 15 |
ecs.gn7s-c48g1.12xlarge | 48 | 380 | NVIDIA A30 * 1 | 24GB * 1 | 16 | 9.000.000 | 8 | 1 | 16 | 8 |
ecs.gn7s-c56g1.14xlarge | 56 | 440 | NVIDIA A30 * 1 | 24GB * 1 | 16 | 10.000.000 | 8 | 1 | 16 | 8 |
gn7, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Skenario:
Deep learning, seperti pelatihan algoritma AI yang digunakan dalam klasifikasi gambar, pengemudian otonom, dan pengenalan suara.
Komputasi ilmiah intensif GPU, seperti dinamika fluida komputasi, keuangan komputasi, dinamika molekuler, dan analisis lingkungan.
Penyimpanan:
Instans yang dioptimalkan untuk I/O.
Mendukung disk cloud ESSD, disk cloud ESSD AutoPL, dan disk cloud ESSD redundansi zona. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang IPv6, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
Tabel berikut menjelaskan tipe dan spesifikasi instans dari keluarga instans gn7.
Tipe instans | vCPU | Memori (GiB) | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (pps) | Antrian NIC | ENIs | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn7-c12g1.3xlarge | 12 | 94 | 40 GB × 1 | 4 | 2.500.000 | 4 | 8 | 10 | 1 |
ecs.gn7-c13g1.13xlarge | 52 | 378 | 40 GB × 4 | 16 | 9.000.000 | 16 | 8 | 30 | 30 |
ecs.gn7-c13g1.26xlarge | 104 | 756 | 40 GB × 8 | 30 | 18.000.000 | 16 | 15 | 10 | 1 |
gn6i, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Kasus penggunaan:
Inferensi AI (deep learning dan machine learning) untuk aplikasi seperti visi komputer, pengenalan suara, sintesis suara, pemrosesan bahasa alami (NLP), penerjemahan mesin, dan sistem rekomendasi.
Rendering real-time untuk cloud gaming.
Rendering real-time berbasis cloud untuk augmented reality (AR) dan virtual reality (VR).
Komputasi atau workstation grafis yang intensif grafis.
Database berakselerasi GPU.
Komputasi kinerja tinggi (HPC).
Komputasi:
Dilengkapi akselerator GPU NVIDIA T4, yang memiliki:
Arsitektur NVIDIA Turing inovatif.
16 GB memori per GPU dengan bandwidth memori 320 GB/s.
2.560 core CUDA per GPU.
Hingga 320 Tensor Core Turing per GPU.
Tensor Core presisi campuran yang mendukung 65 TFLOPS FP16, 130 TOPS INT8, dan 260 TOPS INT4.
Rasio vCPU terhadap memori sekitar 1:4.
Prosesor: Intel® Xeon® Platinum 8163 (Skylake) 2,5 GHz.
Penyimpanan:
Instans Optimasi I/O.
Tipe disk yang didukung: ESSD, disk ESSD AutoPL, disk SSD, dan disk ultra. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk detailnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
Keluarga instans gn6i mencakup tipe instans berikut.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (pps) | IOPS disk | Multi-antrian | ENIs | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn6i-c4g1.xlarge | 4 | 15 | NVIDIA T4 × 1 | 16 GB × 1 | 4 | 2.500.000 | N/A | 2 | 2 | 10 | 1 |
ecs.gn6i-c8g1.2xlarge | 8 | 31 | NVIDIA T4 × 1 | 16 GB × 1 | 5 | 2.500.000 | N/A | 2 | 2 | 10 | 1 |
ecs.gn6i-c16g1.4xlarge | 16 | 62 | NVIDIA T4 × 1 | 16 GB × 1 | 6 | 2.500.000 | N/A | 4 | 3 | 10 | 1 |
ecs.gn6i-c24g1.6xlarge | 24 | 93 | NVIDIA T4 × 1 | 16 GB × 1 | 7,5 | 2.500.000 | N/A | 6 | 4 | 10 | 1 |
ecs.gn6i-c40g1.10xlarge | 40 | 155 | NVIDIA T4 × 1 | 16 GB × 1 | 10 | 2.500.000 | N/A | 16 | 10 | 10 | 1 |
ecs.gn6i-c24g1.12xlarge | 48 | 186 | NVIDIA T4 × 2 | 16 GB × 2 | 15 | 4.500.000 | N/A | 12 | 6 | 10 | 1 |
ecs.gn6i-c24g1.24xlarge | 96 | 372 | NVIDIA T4 × 4 | 16 GB × 4 | 30 | 4.500.000 | 250.000 | 24 | 8 | 10 | 1 |
gn6e, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Kasus penggunaan:
Aplikasi deep learning, seperti pelatihan dan inferensi untuk algoritma AI untuk klasifikasi gambar, pengemudian otonom, dan pengenalan suara.
Komputasi ilmiah, seperti dinamika fluida komputasi, keuangan komputasi, dinamika molekuler, dan analisis lingkungan.
Komputasi:
Menampilkan kartu GPU NVIDIA V100 (32 GB NVLink).
Akselerator GPU: V100 (paket SXM2).
Arsitektur NVIDIA Volta inovatif.
32 GB memori HBM2 per GPU dengan bandwidth memori GPU 900 GB/s.
5.120 Core CUDA per GPU.
640 Tensor Core per GPU.
Setiap GPU mendukung enam koneksi NVLink dua arah, masing-masing menyediakan bandwidth 25 Gbit/s di setiap arah untuk total 300 Gbit/s.
Memiliki rasio vCPU terhadap memori sekitar 1:8.
Prosesor: Intel ® Xeon ® Platinum 8163 (Skylake) 2,5 GHz.
Penyimpanan:
Instans Optimasi I/O.
Tipe disk cloud yang didukung: ESSD, disk ESSD AutoPL, ESSD Regional, SSD standar, dan disk ultra. Untuk informasi selengkapnya, lihat Elastic Block Storage.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya tentang komunikasi IPv6, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
gn6e mencakup tipe dan spesifikasi instans yang tercantum dalam tabel di bawah ini.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita dasar (Gbit/s) | Laju paket (PPS) | Antrian NIC | ENI | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn6e-c12g1.3xlarge | 12 | 92 | 1 × NVIDIA V100 | 1 × 32 GB | 5 | 800.000 | 8 | 6 | 10 | 1 |
ecs.gn6e-c12g1.6xlarge | 24 | 184 | 2 × NVIDIA V100 | 2 × 32 GB | 8 | 1.200.000 | 8 | 8 | 20 | 1 |
ecs.gn6e-c12g1.12xlarge | 48 | 368 | 4 × NVIDIA V100 | 4 × 32 GB | 16 | 2.400.000 | 8 | 8 | 20 | 1 |
ecs.gn6e-c12g1.24xlarge | 96 | 736 | 8 × NVIDIA V100 | 8 × 32 GB | 32 | 4.500.000 | 16 | 8 | 20 | 1 |
gn6v, keluarga instans yang dioptimalkan untuk komputasi dengan akselerasi GPU
Kasus penggunaan:
Aplikasi deep learning, seperti pelatihan dan inferensi untuk algoritma AI dalam klasifikasi gambar, pengemudian otonom, dan pengenalan suara.
Komputasi ilmiah, seperti dinamika fluida komputasi, keuangan komputasi, dinamika molekuler, dan analisis lingkungan.
Komputasi:
Dilengkapi GPU NVIDIA V100.
Akselerator GPU: V100 (paket SXM2).
Arsitektur NVIDIA Volta inovatif.
16 GB memori GPU HBM2 per GPU dengan bandwidth memori 900 GB/s.
5.120 Core CUDA per GPU.
640 Tensor Core per GPU.
Hingga enam koneksi NVLink dua arah per GPU. Setiap koneksi menyediakan bandwidth 25 Gbit/s di setiap arah, untuk bandwidth total 300 Gbit/s.
Memiliki rasio vCPU terhadap memori sekitar 1:4.
Prosesor: Intel® Xeon® Platinum 8163 (Skylake) 2,5 GHz.
Penyimpanan:
Semua instance dalam family ini dioptimalkan untuk I/O.
Tipe disk yang didukung: ESSD, ESSD AutoPL, Disk Cloud SSD, dan Disk Ultra. Untuk informasi selengkapnya, lihat Ikhtisar penyimpanan blok.
Jaringan:
Mendukung IPv4 dan IPv6. Untuk informasi selengkapnya, lihat Komunikasi IPv6.
Performa jaringan meningkat seiring dengan tipe instans.
Keluarga instans gn6v mencakup tipe dan spesifikasi instans yang tercantum di bawah ini.
Tipe instans | vCPU | Memori (GiB) | GPU | Memori GPU | Lebar pita jaringan (Gbit/s) | Laju paket (pps) | IOPS dasar disk | Multi-antrian | ENI | Alamat IPv4 privat | Alamat IPv6 |
ecs.gn6v-c8g1.2xlarge | 8 | 32 | 1 × NVIDIA V100 | 1 × 16 GB | 2,5 | 800.000 | N/A | 4 | 4 | 10 | 1 |
ecs.gn6v-c8g1.4xlarge | 16 | 64 | 2 × NVIDIA V100 | 2 × 16 GB | 5 | 1.000.000 | N/A | 4 | 8 | 20 | 1 |
ecs.gn6v-c8g1.8xlarge | 32 | 128 | 4 × NVIDIA V100 | 4 × 16 GB | 10 | 2.000.000 | N/A | 8 | 8 | 20 | 1 |
ecs.gn6v-c8g1.16xlarge | 64 | 256 | 8 × NVIDIA V100 | 8 × 16 GB | 20 | 2.500.000 | N/A | 16 | 8 | 20 | 1 |
ecs.gn6v-c10g1.20xlarge | 82 | 336 | 8 × NVIDIA V100 | 8 × 16 GB | 35 | 4.500.000 | 250.000 | 16 | 8 | 20 | 1 |