Topik ini membantu Anda melakukan troubleshooting dan menyelesaikan masalah terkait Elastic GPU Service dengan merangkum isu umum yang dihadapi saat menggunakan GPU.
|
Kategori |
Pertanyaan terkait |
|
Instans GPU-accelerated |
|
|
Kartu GPU |
|
|
Memori GPU |
|
|
Driver GPU |
|
|
Pemantauan GPU |
|
|
Lainnya |
Bagaimana cara menginstal layanan cGPU? Perintah nvidia-smi -r hang setelah Anda menginstal layanan cGPU |
Instans GPU-accelerated
Apakah instans GPU-accelerated mendukung emulator Android?
Emulator Android hanya dapat diinstal pada beberapa instans GPU-accelerated tertentu.
Emulator Android didukung hanya pada keluarga Instans ECS Bare Metal berikut yang dioptimalkan untuk komputasi dengan akselerasi GPU: ebmgn7e, ebmgn7i, ebmgn7, ebmgn6ia, ebmgn6e, ebmgn6v, ebmgn6i.
Apakah konfigurasi instans GPU-accelerated dapat diubah?
Beberapa instans GPU-accelerated mendukung perubahan konfigurasi.
Tipe instans yang didukung tercantum dalam Batasan dan pemeriksaan perubahan tipe instans.
Apakah keluarga instans ECS standar dapat ditingkatkan atau diubah menjadi keluarga instans GPU-accelerated?
Tidak. Keluarga instans ECS standar tidak dapat diubah menjadi keluarga instans GPU-accelerated.
Tipe instans yang didukung tercantum dalam Batasan dan pemeriksaan perubahan tipe instans.
Bagaimana cara mentransfer data antara instans GPU-accelerated dan instans ECS standar?
Tidak diperlukan pengaturan khusus untuk mentransfer data.
Instans GPU-accelerated berperilaku seperti instans ECS standar. Instans dalam security group yang sama berkomunikasi melalui jaringan internal secara default tanpa memerlukan konfigurasi tambahan.
Apa perbedaan antara GPU dan CPU?
Tabel berikut membandingkan GPU dan CPU.
|
Perbandingan |
GPU |
CPU |
|
Arithmetic Logic Unit (ALU) |
Banyak ALU yang dioptimalkan untuk komputasi paralel skala besar. |
ALU yang sedikit namun kuat. |
|
Unit kontrol |
Memiliki unit kontrol yang relatif sederhana. |
Memiliki unit kontrol yang kompleks. |
|
Cache |
Memiliki cache kecil yang melayani thread daripada menyimpan data yang diakses. |
Memiliki struktur cache besar yang dapat menyimpan data untuk meningkatkan kecepatan akses dan mengurangi latensi. |
|
Metode respons |
Mengintegrasikan semua tugas sebelum pemrosesan batch. |
Merespons tugas individual secara real-time. |
|
Skenario |
Cocok untuk skenario komputasi throughput tinggi paralel multi-threaded yang komputasi-intensif, sangat mirip, dan bersifat paralel. |
Cocok untuk skenario komputasi serial yang logikanya kompleks dan memerlukan waktu respons cepat. |
Kartu GPU
Setelah saya membeli instans GPU-accelerated, mengapa perintah nvidia-smi tidak dapat menemukan kartu GPU?
Penyebab: Perintah nvidia-smi tidak dapat menemukan kartu GPU karena driver Tesla atau GRID belum diinstal atau proses instalasi gagal.
Solusi: Untuk menggunakan fitur berkinerja tinggi dari instans GPU-accelerated Anda, Anda harus menginstal driver yang sesuai dengan tipe instans Anda:
-
Instans vGPU-accelerated memerlukan driver GRID:
-
Instans komputasi yang dioptimalkan dengan percepatan GPU mendukung driver Tesla atau GRID:
Bagaimana cara melihat detail kartu GPU?
Metodenya bervariasi tergantung sistem operasi:
-
Pada Linux, Anda dapat menjalankan perintah
nvidia-smiuntuk melihat detail kartu GPU. -
Pada Windows, Anda dapat melihat detail kartu GPU di .
Untuk melihat informasi seperti laju idle GPU, penggunaan, suhu, dan daya, buka Konsol CloudMonitor. Untuk informasi selengkapnya, lihat Pemantauan GPU.
Terjadi kegagalan inisialisasi GPU (misalnya RmInitAdapter failed!) saat saya menggunakan GPU pada Linux
-
Gejala: Perangkat GPU offline dan sistem tidak dapat mengenali kartu GPU. Misalnya, pada sistem Linux, muncul error kegagalan inisialisasi GPU. Setelah Anda menjalankan perintah
sh nvidia-bug-report.sh, pesan errorRmInitAdapter failedmuncul dalam log yang dihasilkan, seperti pada contoh berikut:NVRM: _kgspBootGspRm: unexpected WPR2 already up, cannot proceed with booting GSP NVRM: _kgspBootGspRm: (the GPU is likely in a bad state and may need to be reset) NVRM: crashcatWayfinderGetReportQueue_V1: insufficiently-sized L1 wayfinder scratch location 0 NVRM: RmInitAdapter: Cannot initialize GSP firmware RM NVRM: GPU 0000:00:09.0: RmInitAdapter failed! (0x62:0x40:2015) NVRM: GPU 0000:00:09.0: rm_init_adapter failed, device minor number 0 -
Penyebab: Komponen GPU System Processor (GSP) mungkin berada dalam kondisi abnormal. Hal ini menyebabkan perangkat offline dan sistem tidak dapat mendeteksi kartu GPU.
-
Solusi: Restart instans dari konsol. Tindakan ini melakukan reset GPU lengkap dan biasanya menyelesaikan masalah. Jika masalah tetap ada, lihat Kehilangan perangkat GPU akibat error XID 119/XID 120 saat menggunakan GPU untuk troubleshooting lebih lanjut. Kami menyarankan agar Anda menonaktifkan fitur GSP.
Memori GPU
Mengapa instans dengan memori GPU 48 GB menunjukkan sekitar 3 GB lebih sedikit di nvidia-smi?
ECC (Error-Correcting Code) diaktifkan dan menggunakan sekitar 2–3 GB memori GPU pada instans 48 GB. Jalankan nvidia-smi untuk memeriksa status ECC (OFF = dinonaktifkan, ON = diaktifkan).
Bagaimana cara menonaktifkan fitur ECC untuk membebaskan memori GPU?
-
Command line: Hentikan semua proses yang menggunakan GPU. Jalankan
nvidia-smi -e 0untuk menonaktifkan ECC. Kemudian, jalankannvidia-smi -runtuk mereset GPU. -
Skrip startup: Tambahkan
nvidia-smi -e 0dannvidia-smi -rke baris pertama skrip startup/etc/rc.local. Untuk beberapa sistem, jalurnya adalah/etc/rc.d/rc.local. Kemudian, restart instans.
Apa yang harus saya lakukan jika muncul error yang menunjukkan GPU sedang digunakan oleh klien lain saat saya menonaktifkan ECC?
Error ini menunjukkan bahwa komponen atau proses masih menggunakan GPU. Pastikan tidak ada proses GPU yang berjalan di mesin tersebut. Jika Anda tidak dapat menghentikannya secara manual, buat cadangan snapshot. Kemudian, tambahkan perintah nvidia-smi -e 0 dan nvidia-smi -r ke skrip startup /etc/rc.local. Untuk beberapa sistem, jalurnya adalah /etc/rc.d/rc.local. Restart instans agar perubahan diterapkan.
Driver GPU
Driver apa yang perlu saya instal untuk instans vGPU-accelerated?
Instans vGPU-accelerated memerlukan driver GRID.
Untuk skenario komputasi tujuan umum atau akselerasi grafis, Anda dapat memuat driver GRID saat pembuatan instans atau menginstalnya dengan Asisten Cloud setelahnya:
-
Muat driver GRID saat pembuatan instans. Muat driver GRID dari image dengan driver pra-instal.
-
Instal driver GRID dengan Asisten Cloud setelah pembuatan:
Dapatkah saya meningkatkan CUDA ke versi 12.4 atau driver NVIDIA ke versi 550 atau lebih baru pada instans vGPU-accelerated?
Tidak.
Instans vGPU-accelerated menggunakan driver GRID yang disediakan platform dengan versi tetap. Anda tidak dapat menginstal driver dari situs web NVIDIA. Untuk meningkatkan CUDA atau driver, gunakan instans seri gn atau ebm sebagai gantinya.
Driver apa yang perlu saya instal untuk menggunakan alat seperti OpenGL dan Direct3D guna akselerasi grafis pada instans komputasi yang dioptimalkan dengan percepatan GPU?
Instal driver berdasarkan sistem operasi Anda:
-
Instans komputasi yang dioptimalkan dengan percepatan GPU pada Linux memerlukan driver Tesla:
-
Instans komputasi yang dioptimalkan dengan percepatan GPU pada Windows memerlukan driver GRID:
Mengapa versi CUDA yang saya lihat setelah instalasi berbeda dari versi yang saya pilih saat membuat instans GPU-accelerated?
Perintah nvidia-smi menampilkan versi CUDA tertinggi yang didukung oleh instans GPU-accelerated Anda, bukan versi yang Anda pilih saat pembuatan instans.
Setelah saya menginstal driver GRID pada instans Windows GPU-accelerated, apa yang harus saya lakukan jika muncul layar hitam saat saya menggunakan koneksi VNC dari konsol?
-
Penyebab: Driver GRID mengambil alih output tampilan. VNC tidak lagi dapat merender dari grafis terintegrasi, sehingga menyebabkan layar hitam. Ini merupakan perilaku yang diharapkan.
-
Solusi: Hubungkan ke instans GPU-accelerated menggunakan Workbench. Untuk informasi selengkapnya, lihat Hubungkan ke instans Windows menggunakan Workbench.
Bagaimana cara mendapatkan Lisensi GRID?
Metodenya tergantung pada sistem operasi Anda:
-
Pada Windows, gunakan image dengan driver pra-instal atau instal driver secara manual.
-
Pada Linux, gunakan image dengan driver pra-instal atau Asisten Cloud.
Bagaimana cara meningkatkan driver GPU (Tesla atau GRID)?
Anda tidak dapat langsung meningkatkan driver GPU. Uninstal versi lama, restart, lalu instal versi baru. Tingkatkan driver Tesla atau GRID.
Lakukan peningkatan selama jam sepi. Backup data disk dengan membuat snapshot terlebih dahulu. Buat snapshot.
Terjadi crash sistem dan error kernel NULL pointer dereference setelah Anda menginstal driver NVIDIA versi 570.124.xx (Linux) atau 572.61 (Windows)
-
Gejala: Pada beberapa tipe instans, sistem melaporkan error
kernel NULL pointer dereferencebaik selama instalasi driver NVIDIA versi 570.124.xx (Linux) atau 572.61 (Windows), maupun saat menjalankan perintahnvidia-smisetelah instalasi. Log berikut menunjukkan error tersebut: -
Solusi: Hindari menggunakan driver versi 570.124.xx (Linux) atau 572.61 (Windows). Kami menyarankan Anda menggunakan versi 570.133.20 (Linux) atau 572.83 (Windows) atau yang lebih baru.
Perintah nvidia-smi mengembalikan error "No devices were found" jika Anda memilih NVIDIA Proprietary sebagai tipe modul kernel selama instalasi driver
-
Gejala: Pada beberapa tipe instans, jika Anda memilih NVIDIA Proprietary sebagai tipe modul kernel selama instalasi driver, perintah nvidia-smi mengembalikan error
No devices were foundsetelah instalasi.Tipe modul kernel lain yang tersedia pada layar ini adalah MIT/GPL.
-
Penyebab: Tidak semua model GPU kompatibel dengan driver NVIDIA Proprietary.
-
Konfigurasi tipe modul kernel yang direkomendasikan:
-
Untuk GPU arsitektur Blackwell: Anda harus menggunakan driver open-source (pilih
MIT/GPL). -
Untuk GPU arsitektur Turing, Ampere, Ada Lovelace, dan Hopper: Kami menyarankan Anda menggunakan driver open-source (pilih
MIT/GPL). -
Untuk GPU arsitektur Maxwell, Pascal, dan Volta: Anda hanya dapat memilih
NVIDIA Proprietary.
-
Pemantauan GPU
Bagaimana cara melihat penggunaan resource (vCPU, network traffic, bandwidth, dan disk) pada instans GPU-accelerated?
Anda dapat menggunakan salah satu metode berikut untuk melihat data pemantauan seperti penggunaan vCPU, memori, beban sistem rata-rata, bandwidth internal, bandwidth publik, koneksi jaringan, penggunaan disk dan pembacaan, penggunaan GPU, penggunaan memori GPU, serta daya GPU.
-
Konsol produk
-
Konsol ECS: Menyediakan metrik vCPU usage, network traffic, disk I/O, dan GPU. Lihat informasi pemantauan di Konsol ECS.
-
Konsol CloudMonitor: Menyediakan pemantauan infrastruktur, OS, GPU, jaringan, proses, dan disk yang detail halus. Untuk informasi selengkapnya, lihat Pemantauan host.
-
-
Pusat Biaya dan Pengeluaran
Pada halaman View Usage Details, filter berdasarkan Time Period, Commodity Name, Billable Item, Billable Item, dan Time Unit. Klik Export CSV untuk mengekspor data penggunaan. Detail penagihan.
Sebagai contoh, untuk melihat penggunaan traffic instans ECS, pilih ECS - Pay-As-You-Go untuk Product name, Outbound traffic untuk Billable item, Public traffic untuk Metering specification (nama spesifikasi adalah
ECS_FLOW), dan Hour untuk Metering granularity.CatatanDetail penggunaan menunjukkan konsumsi resource mentah, yang berbeda dari penggunaan yang ditagih dalam detail penagihan. Hasil ini hanya untuk referensi dan tidak dapat digunakan untuk rekonsiliasi.
Lainnya
Bagaimana cara menginstal layanan cGPU?
Instal layanan cGPU melalui runtime Docker di ACK. Ini merupakan metode yang direkomendasikan baik untuk pengguna perusahaan maupun pengguna individu yang telah menyelesaikan verifikasi identitas. Kelola komponen penjadwalan GPU bersama.
Perintah nvidia-smi -r hang setelah Anda menginstal layanan cGPU
-
Gejala: Saat layanan cGPU dimuat (verifikasi dengan
lsmod | grep cgpu), perintahnvidia-smi -rhang saat mereset GPU. Error juga muncul dalam logdmesg.[527717.881425] NVRM: Attempting to remove device 0000:08:00.0 with non-zero usage count! -
Penyebab: Komponen cGPU masih menggunakan perangkat GPU. Hal ini menghalangi operasi reset perangkat keras.
-
Solusi:
-
Uninstal cGPU: Uninstal komponen cGPU. Setelah uninstal, perintah
nvidia-smi -rkembali normal dan mengembalikan hasil. -
Restart instans: Jika masalah tetap ada setelah uninstal, restart instans dari konsol. Menjalankan perintah reboot di dalam instans tidak efektif.
PentingJangan mereset GPU dengan menjalankan perintah seperti
nvidia-smi -r, melepas perangkat, atau menginstal ulang driver saat layanan cGPU dimuat. Selalu uninstal layanan cGPU terlebih dahulu untuk mencegah kegagalan. -