Buat instans ECI yang dipercepat GPU - Elastic Container Instance

Topik ini menjelaskan cara membuat Elastic Container Instance (ECI) dengan menentukan tipe instans ECS yang dipercepat GPU.

Spesifikasi

Tipe instans yang dipercepat GPU cocok untuk skenario seperti pembelajaran mendalam dan pengeditan gambar. Anda dapat menjalankan Docker image untuk GPU secara langsung pada instans ECI yang dipercepat GPU. Driver kartu grafis NVIDIA telah dipra-instal di setiap instans. Versi driver dan CUDA yang didukung bervariasi tergantung pada tipe instans GPU.

Catatan

Keluarga instans gn8ia dan gn8is dalam tabel berikut hanya tersedia di beberapa wilayah di luar Tiongkok. Untuk menggunakan keluarga instans ini, hubungi tim penjualan Alibaba Cloud.

Kategori	Keluarga instans GPU	Versi driver dan CUDA
vGPU-accelerated instance family	sgn7i-vws	GRID 470, CUDA 11.4 (default)
	vgn7i-vws
	vgn6i-vws
GPU-accelerated compute-optimized instance family	gn7e	Tesla 470, CUDA 11.4 (default) Tesla 535, CUDA 12.2 Tesla 550, CUDA 12.4
	gn7i
	gn7s
	gn7
	gn6v
	gn6e
	gn6i
	gn5i
	gn5
	gn8ia	Tesla 535, CUDA 12.2 (default) Tesla 550, CUDA 12.2
	gn8is	Tesla 535, CUDA 12.2 (default) Tesla 550, CUDA 12.2

Penting

Mulai 17 Maret 2025, tentukan hanya nomor versi utama untuk driver GPU, misalnya 535, bukan nomor versi lengkap seperti 535.161.08. Instans yang dibuat akan menggunakan driver dengan versi utama yang ditentukan, tetapi versi minornya mungkin diperbarui. Ketika driver versi lama tidak lagi dipublikasikan, versi yang lebih baru akan digunakan secara otomatis untuk membuat instans. Periode dukungan untuk versi driver mengikuti kebijakan dukungan resmi NVIDIA. Untuk informasi selengkapnya, lihat NVIDIA Driver Documentation.

Riwayat pembaruan driver GPU

Waktu pembaruan	Deskripsi pembaruan
Maret 2025	Driver GRID 470 diperbarui ke 470.239.06. Driver Tesla 470 diperbarui ke 470.256.02, driver Tesla 535 diperbarui ke 535.230.02, dan driver Tesla 550 diperbarui ke 550.127.08. Driver Tesla 525 tidak lagi didukung. Jika Anda menentukan driver ini, sistem akan kembali menggunakan versi 535.

Untuk informasi selengkapnya tentang tipe instans ECS, lihat topik berikut:

Konfigurasi

Untuk membuat instans yang dipercepat GPU, Anda harus menentukan tipe instans yang dipercepat GPU dan jumlah GPU untuk setiap kontainer.

Penting

Jika Anda menentukan tipe instans yang dipercepat GPU tetapi tidak menentukan jumlah GPU untuk kontainer, instans gagal dimulai.
Secara default, beberapa kontainer dapat berbagi GPU. Pastikan jumlah GPU yang dikonfigurasi untuk satu kontainer tidak melebihi jumlah total GPU yang tersedia untuk tipe instans yang ditentukan.

API

Saat memanggil operasi CreateContainerGroup untuk membuat instans ECI, gunakan parameter InstanceType untuk menentukan tipe instans ECS yang dipercepat GPU dan parameter Gpu untuk menentukan jumlah GPU untuk setiap kontainer. Untuk informasi selengkapnya, lihat CreateContainerGroup.

Parameter

Tipe

Contoh

Deskripsi

InstanceType

String

ecs.gn6v-c8g1.2xlarge

Tipe instans ECS yang dipercepat GPU.

Anda dapat menentukan hingga lima tipe instans dalam satu permintaan, dipisahkan dengan koma.

Container.N.Gpu

Integer

Jumlah GPU yang dialokasikan ke kontainer N.

Catatan

Anda juga dapat memanggil operasi UpdateContainerGroup untuk mengubah alokasi GPU untuk setiap kontainer dalam instans yang dipercepat GPU. Untuk informasi selengkapnya, lihat UpdateContainerGroup.

Secara default, instans ECI GPU secara otomatis menginstal driver GPU dan versi CUDA yang kompatibel dengan tipe instansnya. Jika workload Anda memerlukan versi berbeda, gunakan parameter GpuDriverVersion untuk menentukannya.

Parameter	Tipe	Contoh	Deskripsi
GpuDriverVersion	String	tesla=535	Versi driver GPU. Catatan Mengubah versi driver GPU hanya didukung pada beberapa tipe instans tertentu. Untuk detailnya, lihat Spesifikasi.

Konsol

Saat membuat instans yang dipercepat GPU di Konsol Elastic Container Instance, konfigurasikan pengaturan terkait GPU sebagai berikut:

Pada bagian Container Group Configurations, klik tab Specify Instance Type dan pilih tipe instans yang dipercepat GPU.
Pada Advanced Settings untuk setiap kontainer, atur jumlah GPU yang digunakan.

Dalam contoh ini, GPU diatur ke 1.