All Products
Search

This Product

    :Instal Tesla driver, CUDA, dan cuDNN pada RDS Custom AI node

    Document Center

    :Instal Tesla driver, CUDA, dan cuDNN pada RDS Custom AI node

    Last Updated:Nov 10, 2025

    Saat membuat RDS Custom AI node, sistem secara otomatis menginstal NVIDIA Tesla driver, CUDA, dan cuDNN. Jika versi default komponen-komponen ini tidak lagi memenuhi kebutuhan Anda, Anda dapat menghapus versi yang ada dan menginstal versi yang diinginkan.

    Prasyarat

    Instans RDS Custom AI node telah dibuat.

    Uninstall Tesla driver, CUDA, dan cuDNN

    Topik ini menggunakan contoh instalasi Tesla driver 575.57.08, CUDA 12.9.0, dan cuDNN 9.10.2 pada Alibaba Cloud Linux 3. Prosedurnya adalah sebagai berikut:

    1. Hubungkan ke instans RDS Custom.

    2. Jalankan perintah berikut dan ikuti petunjuk antarmuka untuk menghapus Tesla driver.

      /usr/bin/nvidia-uninstall

    3. Hapus CUDA.

      Metode 1: Hapus manual paket CUDA dan file konfigurasi terkait

      1. Hapus manual paket CUDA dan konfigurasinya.

        # Uninstall paket CUDA
sudo dnf remove 'cuda*'

# Hapus konfigurasi repositori
sudo rm /etc/yum.repos.d/cuda*.repo

# Bersihkan cache
sudo dnf clean all

      2. Jalankan perintah nvcc --version untuk memastikan apakah CUDA telah dihapus.

        Ketika muncul prompt command not found, maka CUDA berhasil dihapus.

      Metode 2: Uninstall menggunakan file uninstall_cuda

      Catatan

      Versi CUDA yang berbeda mungkin memiliki perintah uninstall yang berbeda. Jika file cuda-uninstaller tidak ditemukan, periksa apakah ada file dengan awalan uninstall_cuda di direktori /usr/local/cuda/bin/.

      • Jika ada, ganti cuda-uninstaller dalam perintah dengan nama file tersebut.

      • Jika tidak ada, lakukan uninstall menggunakan Metode 1.

      /usr/local/cuda/bin/cuda-uninstaller
rm -rf /usr/local/cuda-12.9

      Ketika Successfully muncul di output, maka uninstall berhasil.

    4. Hapus cuDNN.

      1. Jalankan perintah berikut untuk memeriksa nama paket cuDNN yang terinstal.

        rpm -qa | grep cudnn

        Hasil berikut akan dikembalikan:

        cudnn9-cuda-12-9.10.2.21-1.x86_64
libcudnn9-cuda-12-9.10.2.21-1.x86_64
libcudnn9-static-cuda-12-9.10.2.21-1.x86_64
...

      2. Jalankan perintah dnf remove untuk menghapus setiap paket target.

        sudo dnf remove cudnn9-cuda-12-9.10.2.21-1.x86_64
sudo dnf remove libcudnn9-cuda-12-9.10.2.21-1.x86_64
sudo dnf remove libcudnn9-static-cuda-12-9.10.2.21-1.x86_64

      3. Jalankan perintah berikut untuk membersihkan dependensi yang tersisa.

        sudo dnf autoremove

      4. Verifikasi hasil uninstall.

        rpm -qa | grep cudnn

        Jika output kosong, maka uninstall berhasil. Jika tidak, lanjutkan menjalankan dnf remove untuk menghapus paket yang tersisa.

    Instal Tesla driver

    Langkah 1: Unduh NVIDIA Tesla driver

    1. Kunjungi halaman unduhan driver NVIDIA.

      Catatan

      Untuk informasi lebih lanjut tentang pemasangan dan konfigurasi driver NVIDIA, lihat Panduan Cepat Pemasangan Driver NVIDIA.

    2. Tetapkan kriteria pencarian yang sesuai berdasarkan tipe instans RDS Custom untuk menemukan dan memilih driver yang cocok.

    3. Temukan driver yang ingin Anda unduh dan klik View di sebelah driver yang sesuai.

    4. Pada halaman produk driver yang ingin Anda unduh, klik kanan Download dan salin alamat tautan.

    5. Hubungkan ke instans RDS Custom.

    6. Jalankan perintah berikut untuk mengunduh paket instalasi driver.

      URL unduhan driver dalam perintah contoh adalah tautan unduhan driver yang Anda peroleh di Langkah 4.

      wget https://us.download.nvidia.com/tesla/575.57.08/NVIDIA-Linux-x86_64-575.57.08.run

    Langkah 2: Instal NVIDIA Tesla driver

    Alibaba Cloud Linux/CentOS

    1. Jalankan perintah berikut untuk memeriksa apakah paket kernel-devel dan kernel-headers telah diinstal pada instans GPU-accelerated.

      sudo rpm  -qa | grep $(uname -r)

      • Jika output perintah mencakup informasi versi tentang paket kernel-devel dan kernel-headers, maka paket tersebut telah diinstal. Contoh output perintah:

        kernel-3.10.0-1062.18.1.el7.x86_64
kernel-devel-3.10.0-1062.18.1.el7.x86_64
kernel-headers-3.10.0-1062.18.1.el7.x86_64

      • Jika Anda tidak dapat menemukan kernel-devel-* dan kernel-headers-* di output perintah, Anda perlu mengunduh dan menginstal paket kernel-devel dan kernel-headers yang sesuai dengan versi kernel Anda.

        Penting

        Jika versi kernel-devel berbeda dari versi kernel, kesalahan kompilasi akan terjadi saat Anda menginstal RPM Package Manager (RPM) untuk driver Anda. Oleh karena itu, periksa nomor versi kernel-* di output perintah sebelum Anda mengunduh versi kernel-devel yang sesuai. Dalam output perintah sebelumnya, versi kernel adalah 3.10.0-1062.18.1.el7.x86_64.

    2. Berikan izin pada paket instalasi untuk driver Tesla Anda dan instal driver tersebut.

      Dalam contoh ini, digunakan driver Tesla Linux 64-bit. Kami merekomendasikan Anda menggunakan paket instalasi .run untuk driver Tesla Anda, seperti paket NVIDIA-Linux-x86_64-xxxx.run. Jalankan perintah berikut untuk memberikan izin eksekusi pada paket instalasi dan menginstal driver Tesla.

      Catatan

      Jika Anda menggunakan driver Tesla dalam format lain seperti .deb atau .rpm, lihat Panduan Instalasi CUDA NVIDIA untuk Linux untuk metode instalasi spesifik.

      # Berikan izin
sudo chmod +x NVIDIA-Linux-x86_64-xxxx.run
# Instal
sudo sh NVIDIA-Linux-x86_64-xxxx.run

    3. Jalankan perintah berikut untuk memeriksa apakah driver Tesla telah diinstal:

      nvidia-smi

      Ketika informasi detail driver Tesla muncul di output, instalasi berhasil.

      image

    4. (Opsional) Aktifkan Persistence-M menggunakan NVIDIA Persistence Daemon.

      Setelah driver Tesla diinstal, Persistence-M dinonaktifkan (off) secara default. Driver Tesla lebih stabil ketika Persistence-M diaktifkan. Untuk memastikan kelangsungan bisnis, kami merekomendasikan Anda mengaktifkan Persistence-M menggunakan NVIDIA Persistence Daemon. Untuk informasi lebih lanjut, lihat Persistence Daemon.

      Catatan

      1. Jalankan perintah berikut untuk menjalankan NVIDIA Persistence Daemon:

        sudo nvidia-persistenced --user username 
# username adalah nama pengguna Anda.

      2. Jalankan perintah berikut untuk melihat status Persistence-M:

        nvidia-smi

        Jika output perintah berikut ditampilkan, Persistence-M diaktifkan (on).

        image

    5. (Opsional) Aktifkan Persistence-M setelah sistem di-restart.

      Jika sistem di-restart, Persistence-M akan dinonaktifkan (on). Anda dapat melakukan operasi berikut untuk mengaktifkan kembali Persistence-M.

      Dengan menginstal paket instalasi driver Tesla, skrip instalasi yang disediakan oleh NVIDIA (seperti skrip sampel dan skrip installer) diinstal ke jalur /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

      1. Jalankan perintah berikut untuk mengekstrak dan menginstal skrip instalasi yang disediakan oleh NVIDIA:

        cd /usr/share/doc/NVIDIA_GLX-1.0/samples/
sudo tar xf nvidia-persistenced-init.tar.bz2
cd nvidia-persistenced-init
sudo sh install.sh

      2. Jalankan perintah berikut untuk memeriksa apakah NVIDIA Persistence Daemon berjalan sesuai harapan:

        sudo systemctl status nvidia-persistenced

        Jika output perintah berikut ditampilkan, NVIDIA Persistence Daemon berjalan sesuai harapan.

        image

        Catatan

        Anda dapat menyesuaikan skrip instalasi NVIDIA Persistence Daemon berdasarkan sistem operasi Anda untuk memastikan bahwa NVIDIA Persistence Daemon bekerja sesuai harapan.

      3. Jalankan perintah berikut untuk memastikan bahwa Persistence-M diaktifkan (on) kembali.

        nvidia-smi

      4. (Opsional) Jalankan perintah berikut untuk menonaktifkan NVIDIA Persistence Daemon.

        Anda dapat menonaktifkan NVIDIA Persistence Daemon sesuai kebutuhan.

        sudo systemctl stop nvidia-persistenced
sudo systemctl disable nvidia-persistenced

    Ubuntu dan lainnya

    1. Berikan izin pada paket instalasi untuk driver Tesla Anda dan instal driver tersebut.

      Dalam contoh ini, digunakan driver Tesla Linux 64-bit. Kami merekomendasikan Anda menggunakan paket instalasi .run untuk driver Tesla Anda, seperti paket NVIDIA-Linux-x86_64-xxxx.run. Jalankan perintah berikut untuk memberikan izin eksekusi pada paket instalasi dan menginstal driver Tesla.

      Catatan

      Jika Anda menggunakan driver Tesla dalam format lain seperti .deb atau .rpm, lihat Panduan Instalasi CUDA NVIDIA untuk Linux untuk metode instalasi spesifik.

      # Berikan izin
sudo chmod +x NVIDIA-Linux-x86_64-xxxx.run
# Instal
sudo sh NVIDIA-Linux-x86_64-xxxx.run

    2. Jalankan perintah berikut untuk memeriksa apakah driver Tesla telah diinstal:

      nvidia-smi

      Ketika informasi detail driver Tesla muncul di output, instalasi berhasil.

      image

    3. (Opsional) Aktifkan Persistence-M menggunakan NVIDIA Persistence Daemon.

      Setelah driver Tesla diinstal, Persistence-M dinonaktifkan (off) secara default. Driver Tesla lebih stabil ketika Persistence-M diaktifkan. Untuk memastikan kelangsungan bisnis, kami merekomendasikan Anda mengaktifkan Persistence-M menggunakan NVIDIA Persistence Daemon. Untuk informasi lebih lanjut, lihat Persistence Daemon.

      Catatan

      1. Jalankan perintah berikut untuk menjalankan NVIDIA Persistence Daemon:

        sudo nvidia-persistenced --user username 
# username adalah nama pengguna Anda.

      2. Jalankan perintah berikut untuk melihat status Persistence-M:

        nvidia-smi

        Jika output perintah berikut ditampilkan, Persistence-M diaktifkan (on).

        image

    4. (Opsional) Aktifkan Persistence-M setelah sistem di-restart.

      Jika sistem di-restart, Persistence-M akan dinonaktifkan (on). Anda dapat melakukan operasi berikut untuk mengaktifkan kembali Persistence-M.

      Dengan menginstal paket instalasi driver Tesla, skrip instalasi yang disediakan oleh NVIDIA (seperti skrip sampel dan skrip installer) diinstal ke jalur /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

      1. Jalankan perintah berikut untuk mengekstrak dan menginstal skrip instalasi yang disediakan oleh NVIDIA:

        cd /usr/share/doc/NVIDIA_GLX-1.0/samples/
sudo tar xf nvidia-persistenced-init.tar.bz2
cd nvidia-persistenced-init
sudo sh install.sh

      2. Jalankan perintah berikut untuk memeriksa apakah NVIDIA Persistence Daemon berjalan sesuai harapan:

        sudo systemctl status nvidia-persistenced

        Jika output perintah berikut ditampilkan, NVIDIA Persistence Daemon berjalan sesuai harapan.

        image

        Catatan

        Anda dapat menyesuaikan skrip instalasi NVIDIA Persistence Daemon berdasarkan sistem operasi Anda untuk memastikan bahwa NVIDIA Persistence Daemon bekerja sesuai harapan.

      3. Jalankan perintah berikut untuk memastikan bahwa Persistence-M diaktifkan (on) kembali.

        nvidia-smi

      4. (Opsional) Jalankan perintah berikut untuk menonaktifkan NVIDIA Persistence Daemon.

        Anda dapat menonaktifkan NVIDIA Persistence Daemon sesuai kebutuhan.

        sudo systemctl stop nvidia-persistenced
sudo systemctl disable nvidia-persistenced

    Instal CUDA

    1. Peroleh paket instalasi CUDA.

      1. Pergi ke halaman Arsip Toolkit CUDA.

      2. Klik versi CUDA yang sesuai dengan driver Anda.

      3. Di Operating System, pilih parameter sistem operasi, arsitektur, atau versi sesuai kebutuhan untuk mendapatkan URL unduhan dan perintah instalasi untuk paket instalasi CUDA yang sesuai.

        Catatan

        Topik ini menggunakan CUDA 12.9.0 dan sistem operasi Linux RHEL 8 (Alibaba Cloud Linux 3 kompatibel dengan RHEL 8) sebagai contoh.

    2. Instal CUDA.

      1. Hubungkan ke instans RDS Custom.

      2. Jalankan perintah berikut secara berurutan untuk menginstal CUDA.

        wget https://developer.download.nvidia.com/compute/cuda/12.9.0/local_installers/cuda-repo-rhel8-12-9-local-12.9.0_575.51.03-1.x86_64.rpm
sudo rpm -i cuda-repo-rhel8-12-9-local-12.9.0_575.51.03-1.x86_64.rpm
sudo dnf clean all
sudo dnf -y install cuda-toolkit-12-9

      3. Jalankan perintah berikut secara berurutan untuk mengonfigurasi variabel lingkungan CUDA:

        echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh
source /etc/profile

    3. Periksa apakah CUDA telah diinstal pada instans.

      Jalankan perintah nvcc -V untuk memeriksa apakah versi instalasi CUDA benar.

      Hasil berikut akan dikembalikan:

      nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2025 NVIDIA Corporation
Built on Wed_Apr__9_19:24:57_PDT_2025
Cuda compilation tools, release 12.9, V12.9.41
Build cuda_12.9.r12.9/compiler.35813241_0

    Instal cuDNN

    1. Peroleh paket instalasi cuDNN.

      1. Pergi ke halaman CUDA Deep Neural Network (cuDNN) | NVIDIA Developer.

      2. Klik Download cuDNN Library.

      3. Di Operating System, pilih parameter sistem operasi, arsitektur, atau versi sesuai kebutuhan untuk mendapatkan URL unduhan dan perintah instalasi untuk paket instalasi cuDNN yang sesuai.

        Versi terbaru cuDNN diunduh secara default. Anda juga dapat mengklik Archive of Previous Releases untuk memilih dan mengunduh versi yang Anda butuhkan.

        Catatan

        Topik ini menggunakan cuDNN 9.10.2 dan sistem operasi Linux RHEL 8 (Alibaba Cloud Linux 3 kompatibel dengan RHEL 8) sebagai contoh.

    2. Instal cuDNN.

      1. Hubungkan ke instans RDS Custom.

      2. Jalankan perintah berikut secara berurutan untuk menginstal cuDNN.

        wget https://developer.download.nvidia.com/compute/cudnn/9.10.2/local_installers/cudnn-local-repo-rhel8-9.10.2-1.0-1.x86_64.rpm
sudo rpm -i cudnn-local-repo-rhel8-9.10.2-1.0-1.x86_64.rpm
sudo dnf clean all
sudo dnf -y install cudnn-cuda-12

    3. (Opsional) Jika sistem menginstal cudnn.h, libcudnn.so*, dan cudnn_version.h di direktori /usr/include/ secara default, jalankan perintah berikut untuk menautkan file-file ini ke direktori yang sesuai di bawah /usr/local/cuda/.

      1. Jalankan perintah berikut untuk menautkan libcudnn.so* dan file pustaka cuDNN lainnya ke /usr/local/cuda/lib64/.

        sudo ln -s /usr/lib64/libcudnn.so.9.10.2 /usr/local/cuda/lib64/libcudnn.so.9.10.2
sudo ln -s /usr/local/cuda/lib64/libcudnn.so.9.10.2 /usr/local/cuda/lib64/libcudnn.so.9
sudo ln -s /usr/local/cuda/lib64/libcudnn.so.9 /usr/local/cuda/lib64/libcudnn.so

        Jalankan ls -l /usr/local/cuda/lib64/libcudnn.so* untuk memverifikasi hasil tautan.

      2. Jalankan perintah berikut untuk menautkan cudnn.h dan cudnn_version.h ke /usr/local/cuda/include.

        sudo ln -s /usr/include/cudnn.h /usr/local/cuda/include/cudnn.h
sudo ln -s /usr/include/cudnn_version.h /usr/local/cuda/include/cudnn_version.h

        Jalankan ls -l /usr/local/cuda/include/cudnn* untuk memverifikasi hasil tautan.

    4. Periksa apakah cuDNN berhasil diinstal.

      cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

      Hasil berikut akan dikembalikan:

      #define CUDNN_MAJOR 9
#define CUDNN_MINOR 10
#define CUDNN_PATCHLEVEL 2
--

    Referensi

    Pengenalan RDS Custom.