Tentukan tipe instance ECS yang dipercepat GPU atau panggil operasi API untuk membuat instance kontainer elastis - Elastic Container Instance

Topik ini menjelaskan cara menentukan tipe instance Elastic Compute Service (ECS) yang dipercepat GPU untuk membuat instance kontainer elastis.

Deskripsi keluarga instance ECS

Tipe instance ECS yang dipercepat GPU mencakup GPU dan cocok untuk skenario seperti pembelajaran mendalam dan pemrosesan gambar. Docker image terkait GPU dapat langsung dijalankan pada instance kontainer elastis yang dipercepat GPU. Driver GPU NVIDIA telah diinstal sebelumnya di dalam instance. Versi driver dan CUDA yang didukung bervariasi tergantung pada jenis GPU.

Catatan

Keluarga instance gn8ia dan gn8is dalam tabel berikut hanya tersedia di wilayah tertentu di luar daratan Tiongkok. Untuk menggunakan keluarga instance tersebut, hubungi tenaga penjualan Alibaba Cloud.

Kategori	Keluarga instance yang dipercepat GPU	Versi driver dan CUDA
Keluarga instance yang dipercepat vGPU	sgn7i-vws	NVIDIA 470.161.03 dan CUDA 11.4
	vgn7i-vws
	vgn6i-vws
Keluarga instance dioptimalkan komputasi yang dipercepat GPU	gn7e	NVIDIA 470.82.01 dan CUDA 11.4 (default) NVIDIA 535.161.08 dan CUDA 12.2
	gn7i
	gn7s
	gn7
	gn6v
	gn6e
	gn6i
	gn5i
	gn5
	gn8ia	NVIDIA 535.161.08 dan CUDA 12.2
	gn8is	NVIDIA 535.161.08 dan CUDA 12.2

Untuk informasi lebih lanjut tentang keluarga instance ECS, lihat topik-topik berikut:

Deskripsi konfigurasi

Saat membuat instance kontainer elastis yang dipercepat GPU, Anda harus menentukan jumlah GPU di setiap kontainer selain dari tipe instance ECS yang dipercepat GPU.

Penting

Jika Anda hanya menentukan tipe instance ECS yang dipercepat GPU tanpa menentukan jumlah GPU di setiap kontainer, kesalahan akan dilaporkan saat instance dimulai.
Secara default, beberapa kontainer dalam instance kontainer elastis dapat berbagi vGPU. Pastikan bahwa jumlah GPU yang dialokasikan ke kontainer individu tidak melebihi jumlah GPU yang disediakan oleh tipe instance ECS yang dipercepat GPU yang ditentukan.

Mode API

Saat memanggil operasi API CreateContainerGroup untuk membuat instance kontainer elastis, gunakan parameter InstanceType untuk menentukan tipe instance ECS yang dipercepat GPU dan parameter GPU dalam properti kontainer untuk menentukan jumlah GPU yang dialokasikan ke kontainer. Tabel berikut menjelaskan parameter yang relevan. Untuk informasi lebih lanjut, lihat CreateContainerGroup.

Parameter

Tipe

Contoh

Deskripsi

InstanceType

String

ecs.gn6v-c8g1.2xlarge

Tipe instance ECS yang dipercepat GPU.

Anda dapat menentukan hingga lima tipe instance ECS sekaligus. Pisahkan beberapa tipe instance dengan koma (,).

Container.N.Gpu

Integer

Jumlah GPU yang akan dialokasikan ke Kontainer N.

Catatan

Anda dapat memanggil operasi API UpdateContainerGroup untuk memperbarui jumlah GPU yang dialokasikan ke kontainer dalam instance kontainer elastis yang dipercepat GPU yang ada. Untuk informasi lebih lanjut, lihat UpdateContainerGroup.

Secara default, instance kontainer elastis yang dipercepat GPU secara otomatis menginstal versi driver dan CUDA yang didukung berdasarkan tipe instance ECS yang dipercepat GPU yang ditentukan. Dalam skenario tertentu, beban kerja instance kontainer elastis yang dipercepat GPU yang berbeda memerlukan driver dan versi CUDA yang berbeda. Dalam hal ini, gunakan parameter GpuDriverVersion untuk menentukan versi driver.

Parameter	Tipe	Contoh	Deskripsi
GpuDriverVersion	string	tesla=535	Versi driver GPU. Catatan Anda dapat mengubah versi driver GPU dari instance kontainer elastis yang dipercepat GPU yang menggunakan tipe instance ECS yang dipercepat GPU tertentu. Untuk informasi lebih lanjut, lihat Deskripsi keluarga instance ECS.

Mode Konsol

Saat membuat instance kontainer elastis yang dipercepat GPU di Konsol Instance Kontainer Elastis, lakukan konfigurasi terkait GPU berikut:

Klik tab Specify Instance Type di bagian Container Group Configurations dan pilih tipe instance ECS yang dipercepat GPU.
Di bagian Advanced Settings dari setiap kontainer, atur jumlah GPU yang ingin dialokasikan ke kontainer.