All Products
Search

This Product

    Elastic Compute Service:Membangun lingkungan komputasi rahasia heterogen

    Document Center

    Elastic Compute Service:Membangun lingkungan komputasi rahasia heterogen

    Last Updated:Feb 13, 2026

    Panduan ini menjelaskan cara membangun lingkungan komputasi rahasia heterogen pada instans komputasi rahasia heterogen Alibaba Cloud (gn8v-tee) serta menunjukkan cara menjalankan kode contoh untuk memverifikasi fitur komputasi rahasia GPU.

    Latar Belakang

    Instans komputasi rahasia heterogen Alibaba Cloud (gn8v-tee) memperluas instans komputasi rahasia CPU TDX dengan mengintegrasikan GPU ke dalam Trusted Execution Environment (TEE). Hal ini melindungi transfer data antara CPU dan GPU serta komputasi data di dalam GPU. Untuk informasi tentang membangun lingkungan komputasi rahasia CPU TDX dan memverifikasi kemampuan remote attestation-nya, lihat Membangun lingkungan komputasi rahasia TDX. Untuk menerapkan lingkungan inferensi large language model (LLM) pada instans komputasi rahasia heterogen, lihat Membangun lingkungan inferensi LLM yang mendukung pengukuran pada instans komputasi rahasia heterogen.

    image

    Gambar di atas menunjukkan bahwa GPU pada instans komputasi rahasia heterogen dimulai dalam mode komputasi rahasia. Mekanisme berikut memastikan kerahasiaan instans tersebut:

    1. Fitur TDX memastikan bahwa Hypervisor/Host OS tidak dapat mengakses register sensitif atau data memori instans.

    2. Firewall PCIe mencegah CPU mengakses register kritis GPU dan video memory yang dilindungi. Hypervisor/Host OS hanya dapat melakukan operasi terbatas pada GPU, seperti me-reset-nya, tetapi tidak dapat mengakses data sensitif, sehingga menjamin kerahasiaan data pada GPU.

    3. NVLink Firewall GPU memblokir GPU lain agar tidak dapat langsung mengakses video memory-nya.

    4. Saat inisialisasi, driver GPU dan fungsi pustaka di dalam CPU TEE membentuk saluran terenkripsi dengan GPU menggunakan protokol Security Protocol and Data Model (SPDM). Setelah negosiasi kunci selesai, hanya ciphertext yang dikirimkan melalui PCIe antara CPU dan GPU, sehingga menjamin kerahasiaan tautan transfer data.

    5. Kemampuan remote attestation GPU memastikan bahwa GPU berada dalam keadaan aman.

      Secara khusus, aplikasi dalam instans komputasi rahasia dapat menggunakan kit pengembangan perangkat lunak (SDK) Attestation untuk memanggil driver GPU dan memperoleh laporan kriptografis mengenai status keamanan GPU dari perangkat keras. Laporan ini berisi informasi yang ditandatangani secara kriptografis mengenai perangkat keras GPU, VBIOS, dan pengukuran status perangkat keras. Pihak yang bergantung dapat membandingkan pengukuran ini dengan pengukuran referensi yang disediakan oleh vendor GPU untuk memverifikasi bahwa GPU berada dalam keadaan komputasi rahasia yang aman.

    Catatan Penggunaan

    Komputasi rahasia heterogen memerlukan image Alibaba Cloud Linux 3. Jika Anda membuat instans menggunakan custom image berbasis Alibaba Cloud Linux 3, pastikan versi kernel-nya adalah 5.10.134-18 atau lebih baru.

    Buat instans komputasi rahasia heterogen (gn8v-tee)

    Konsol

    Proses pembuatan instans komputasi rahasia heterogen di Konsol mirip dengan pembuatan instans standar, tetapi memerlukan opsi konfigurasi tertentu. Bagian ini menyoroti konfigurasi utama untuk instans komputasi rahasia heterogen. Untuk detail konfigurasi umum lainnya, lihat Buat instans menggunakan wizard.

    1. Buka ECS console - Instances.

    2. Pada bilah navigasi atas, pilih wilayah dan resource group dari resource yang ingin Anda kelola. Region

    3. Klik Create Instance dan konfigurasikan instans dengan pengaturan berikut.

      Item Konfigurasi

      Deskripsi

      Wilayah dan Zona

      China (Beijing) Zona L

      Instance Type

      Hanya tipe instans ecs.gn8v-tee.4xlarge dan yang lebih besar yang didukung.

      Image

      Pilih image Alibaba Cloud Linux 3.2104 LTS 64-bit.

      Alamat IP Publik

      Assign Public IPv4 Address. Ini memastikan Anda dapat mengunduh driver dari website resmi NVIDIA nanti.

      Penting

      Saat membuat atau merestart instans rahasia dengan 8 GPU, jangan tambahkan Elastic Network Interface (ENI) secondary tambahan atau disk data. Hal ini dapat menyebabkan kegagalan startup instans.

      Penyebab dan solusi

      Instans ECS dengan atribut TDX yang diaktifkan menggunakan area memori non-enkripsi khusus, yaitu Software Input Output Translation Lookaside Buffer (SWIOTLB), untuk komunikasi peripheral. Area memori ini memiliki ukuran terbatas. Secara default, ukurannya adalah 6% dari memori yang tersedia pada instans, dengan maksimum 1 GiB.

      Saat membuat atau merestart instans rahasia dengan 8 GPU, menyambungkan beberapa ENI atau disk data dapat menghabiskan memori SWIOTLB. Hal ini menyebabkan kegagalan alokasi memori dan mencegah instans untuk memulai.

      Jika instans gagal memulai, gunakan salah satu solusi berikut:

      • Solusi 1: Hentikan instans. Kemudian, lepaskan ENI secondary tambahan dan lepas semua disk data.

      • Solusi 2: Buat instans baru hanya dengan satu ENI primer dan tanpa disk data. Instans tersebut hanya boleh memiliki sistem disk.

      Untuk menambahkan beberapa ENI atau menyambungkan disk data ke instans rahasia dengan 8 GPU, pertama-tama selesaikan Langkah 1 untuk meningkatkan buffer SWIOTLB menjadi 8 GB. Kemudian, sambungkan ENI ke instans dan sambungkan disk data.

    4. Ikuti petunjuk di layar untuk menyelesaikan pembuatan instans.

    API/CLI

    Anda dapat memanggil operasi RunInstances atau menggunakan Alibaba Cloud CLI untuk membuat instans ECS yang mendukung TDX. Parameter utama dijelaskan dalam tabel berikut.

    Parameter

    Deskripsi

    Contoh

    RegionId

    China (Beijing)

    cn-beijing

    ZoneId

    Zona L

    cn-beijing-l

    InstanceType

    Pilih ecs.gn8v-tee.4xlarge atau tipe instans yang lebih besar.

    ecs.gn8v-tee.4xlarge

    ImageId

    Tentukan ID image yang mendukung komputasi rahasia. Hanya image Alibaba Cloud Linux 3.2104 LTS 64-bit dengan versi kernel 5.10.134-18.al8.x86_64 atau lebih baru yang didukung.

    aliyun_3_x64_20G_alibase_20250117.vhd

    Contoh CLI:

    Dalam perintah ini, <SECURITY_GROUP_ID> merepresentasikan ID security group, <VSWITCH_ID> merepresentasikan ID vSwitch, dan <KEY_PAIR_NAME> merepresentasikan nama pasangan kunci SSH.
    aliyun ecs RunInstances \
  --RegionId cn-beijing \
  --ZoneId cn-beijing-l \
  --SystemDisk.Category cloud_essd \
  --ImageId 'aliyun_3_x64_20G_alibase_20250117.vhd' \
  --InstanceType 'ecs.gn8v-tee.4xlarge' \
  --SecurityGroupId '<SECURITY_GROUP_ID>' \
  --VSwitchId '<VSWITCH_ID>' \
  --KeyPairName <KEY_PAIR_NAME>

    Membangun lingkungan komputasi rahasia heterogen

    Langkah 1: Instal driver NVIDIA dan CUDA Toolkit

    Penting

    Instans komputasi rahasia heterogen memerlukan waktu lama untuk inisialisasi. Tunggu hingga status instans menjadi Running dan sistem operasi instans telah sepenuhnya dimulai.

    Langkah instalasi bervariasi berdasarkan tipe instans:

    • Instans rahasia single-GPU: ecs.gn8v-tee.4xlarge dan ecs.gn8v-tee.6xlarge

    • Instans rahasia 8-GPU: ecs.gn8v-tee-8x.16xlarge dan ecs.gn8v-tee-8x.48xlarge

    Instans rahasia single-GPU

    1. Sambungkan ke instans komputasi rahasia.

      Untuk informasi selengkapnya, lihat Masuk ke instans Linux menggunakan Workbench.

    2. Sesuaikan parameter kernel untuk mengatur buffer SWIOTLB menjadi 8 GB.

      sudo grubby --update-kernel=ALL --args="swiotlb=4194304,any"

    3. Restart instans untuk menerapkan perubahan.

      Untuk informasi selengkapnya, lihat Restart instans.

    4. Unduh driver NVIDIA dan CUDA Toolkit.

      Instans rahasia single-GPU memerlukan versi driver 550.144.03 atau lebih baru. Topik ini menggunakan versi 550.144.03 sebagai contoh.
      wget --referer=https://www.nvidia.cn/ https://cn.download.nvidia.cn/tesla/550.144.03/NVIDIA-Linux-x86_64-550.144.03.run
wget https://developer.download.nvidia.com/compute/cuda/12.4.1/local_installers/cuda_12.4.1_550.54.15_linux.run

    5. Instal dependensi dan nonaktifkan layanan CloudMonitor.

      sudo yum install -y openssl3
sudo systemctl disable cloudmonitor
sudo systemctl stop cloudmonitor

    6. Buat dan konfigurasikan nvidia-persistenced.service.

      cat > nvidia-persistenced.service << EOF
[Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced

[Install]
WantedBy=multi-user.target
EOF

sudo cp nvidia-persistenced.service /usr/lib/systemd/system/nvidia-persistenced.service

    7. Instal driver NVIDIA dan CUDA Toolkit.

      sudo bash NVIDIA-Linux-x86_64-550.144.03.run --ui=none --no-questions --accept-license --disable-nouveau --no-cc-version-check --install-libglvnd --kernel-module-build-directory=kernel-open --rebuild-initramfs
sudo bash cuda_12.4.1_550.54.15_linux.run --silent --toolkit

    8. Jalankan layanan nvidia-persistenced dan CloudMonitor.

      sudo systemctl start nvidia-persistenced.service
sudo systemctl enable nvidia-persistenced.service
sudo systemctl start cloudmonitor
sudo systemctl enable cloudmonitor

    Instans rahasia 8-GPU

    1. Sambungkan ke instans komputasi rahasia.

      Untuk informasi selengkapnya, lihat Masuk ke instans Linux menggunakan Workbench.

      Penting

      Instans komputasi rahasia memiliki proses inisialisasi yang lambat. Tunggu hingga proses selesai sebelum melanjutkan.

    2. Sesuaikan parameter kernel untuk mengatur buffer SWIOTLB menjadi 8 GB.

      sudo grubby --update-kernel=ALL --args="swiotlb=4194304,any"

    3. Konfigurasikan perilaku pemuatan driver NVIDIA dan regenerasi initramfs.

      sudo bash -c 'cat > /etc/modprobe.d/nvidia-lkca.conf << EOF
install nvidia /sbin/modprobe ecdsa_generic; /sbin/modprobe ecdh; /sbin/modprobe --ignore-install nvidia
options nvidia NVreg_RegistryDwords="RmEnableProtectedPcie=0x1"
EOF'

sudo dracut --regenerate-all -f

    4. Restart instans untuk menerapkan perubahan.

      Untuk informasi selengkapnya, lihat Restart instans.

    5. Unduh driver NVIDIA dan CUDA Toolkit.

      Instans komputasi rahasia 8-GPU memerlukan versi driver 570.148.08 atau lebih baru dan versi Fabric Manager yang sesuai. Topik ini menggunakan versi 570.148.08 sebagai contoh.
      wget --referer=https://www.nvidia.cn/ https://cn.download.nvidia.cn/tesla/570.148.08/NVIDIA-Linux-x86_64-570.148.08.run
wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run
wget https://developer.download.nvidia.cn/compute/cuda/repos/rhel8/x86_64/nvidia-fabric-manager-570.148.08-1.x86_64.rpm

    6. Instal dependensi dan nonaktifkan layanan CloudMonitor.

      sudo yum install -y openssl3
sudo systemctl disable cloudmonitor
sudo systemctl stop cloudmonitor

    7. Buat dan konfigurasikan nvidia-persistenced.service.

      cat > nvidia-persistenced.service << EOF
[Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service
After=nvidia-fabricmanager.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root --uvm-persistence-mode --verbose
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced
TimeoutStartSec=900
TimeoutStopSec=60

[Install]
WantedBy=multi-user.target
EOF

sudo cp nvidia-persistenced.service /usr/lib/systemd/system/nvidia-persistenced.service

    8. Instal Fabric Manager, driver NVIDIA, dan CUDA Toolkit.

      sudo rpm -ivh nvidia-fabric-manager-570.148.08-1.x86_64.rpm
sudo bash NVIDIA-Linux-x86_64-570.148.08.run --ui=none --no-questions --accept-license --disable-nouveau --no-cc-version-check --install-libglvnd --kernel-module-build-directory=kernel-open --rebuild-initramfs
sudo bash cuda_12.8.1_570.124.06_linux.run --silent --toolkit

    9. Jalankan dan aktifkan layanan nvidia-fabricmanager, nvidia-persistenced, dan cloudmonitor.

      sudo systemctl start nvidia-fabricmanager.service
sudo systemctl enable nvidia-fabricmanager.service
sudo systemctl start nvidia-persistenced.service
sudo systemctl enable nvidia-persistenced.service
sudo systemctl start cloudmonitor
sudo systemctl enable cloudmonitor

    Langkah 2: Periksa status TDX

    Fitur ini dibangun di atas TDX. Pertama, periksa status TDX instans untuk memverifikasi bahwa instans tersebut dilindungi.

    1. Periksa apakah TDX diaktifkan. 

      lscpu |grep -i tdx_guest

      Output perintah berikut menunjukkan bahwa TDX diaktifkan.tdx-install

    2. Periksa instalasi driver terkait TDX.

      ls -l /dev/tdx_guest

      Gambar berikut menunjukkan bahwa driver terkait TDX telah terinstal.image

    Langkah 3: Periksa status fitur komputasi rahasia GPU

    Instans rahasia single-GPU

    Lihat status fitur komputasi rahasia.

    nvidia-smi conf-compute -f

    CC status: ON menunjukkan bahwa fitur komputasi rahasia diaktifkan. CC status: OFF menunjukkan bahwa fitur dinonaktifkan karena kesalahan instans. Jika hal ini terjadi, kirim tiket.

    image

    Instans rahasia 8-GPU

    Lihat status atribut komputasi rahasia.

    nvidia-smi conf-compute -mgm

    Multi-GPU Mode: Protected PCIe menunjukkan bahwa fitur komputasi rahasia multi-GPU diaktifkan. Multi-GPU Mode: None menunjukkan bahwa fitur dinonaktifkan karena kesalahan instans. Jika hal ini terjadi, kirim tiket.

    image

    Catatan

    Untuk instans rahasia 8-GPU, perintah nvidia-smi conf-compute -f biasanya mengembalikan CC status: OFF.

    Langkah 4: Verifikasi kepercayaan GPU dan NVSwitch menggunakan local attestation

    Instans rahasia single-GPU

    1. Instal dependensi yang diperlukan untuk kepercayaan GPU.

      sudo yum install -y python3.11 python3.11-devel python3.11-pip
sudo alternatives --install /usr/bin/python3 python3 /usr/bin/python3.11 60
sudo alternatives --set python3 /usr/bin/python3.11
sudo python3 -m ensurepip --upgrade
sudo python3 -m pip install --upgrade pip

sudo python3 -m pip install nv_attestation_sdk==2.5.0.post6914366 nv_local_gpu_verifier==2.5.0.post6914366 nv_ppcie_verifier==1.5.0.post6914366 -f https://attest-public-cn-beijing.oss-cn-beijing.aliyuncs.com/repo/pip/attest.html

    2. Verifikasi status kepercayaan GPU.

      python3 -m verifier.cc_admin --user_mode

      Output menunjukkan bahwa GPU berada dalam mode komputasi rahasia dan pengukuran seperti driver dan VBIOS sesuai dengan nilai yang diharapkan:

      image

      Contoh output lengkap

      Generating nonce in the local GPU Verifier ..
Number of GPUs available : 1
Fetching GPU 0 information from GPU driver.
All GPU Evidences fetched successfully
Set OCSP_NONCE_DISABLED to True while using aliyun's OCSP service
-----------------------------------
Verifying GPU: GPU-e1e94012-8c7b-f9a2-d712-fc5b014f364c
        Driver version fetched : 550.144.03
        VBIOS version fetched : 96.00.cf.00.05
        Validating GPU certificate chains.
                The firmware ID in the device certificate chain is matching with the one in the attestation report.
                GPU attestation report certificate chain validation successful.
                        The certificate chain revocation status verification successful.
        Authenticating attestation report
                The nonce in the SPDM GET MEASUREMENT request message is matching with the generated nonce.
                Driver version fetched from the attestation report : 550.144.03
                VBIOS version fetched from the attestation report : 96.00.cf.00.05
                Attestation report signature verification successful.
                Attestation report verification successful.
        Authenticating the RIMs.
                Authenticating Driver RIM
                        Fetching the driver RIM from the RIM service.
                        RIM Schema validation passed.
                        driver RIM certificate chain verification successful.
                        The certificate chain revocation status verification successful.
                        driver RIM signature verification successful.
                        Driver RIM verification successful
                Authenticating VBIOS RIM.
                        Fetching the VBIOS RIM from the RIM service.
                        RIM Schema validation passed.
                        vbios RIM certificate chain verification successful.
                        The certificate chain revocation status verification successful.
                        vbios RIM signature verification successful.
                        VBIOS RIM verification successful
        Comparing measurements (runtime vs golden)
                        The runtime measurements are matching with the golden measurements.                            
                GPU is in expected state.
        GPU 0 with UUID GPU-e1e94012-8c7b-f9a2-d712-fc5b014f364c verified successfully.
GPU Attestation is Successful.

    Instans rahasia 8-GPU

    1. Instal dependensi yang diperlukan untuk kepercayaan GPU.

      sudo yum install -y python3.11 python3.11-devel python3.11-pip
sudo alternatives --install /usr/bin/python3 python3 /usr/bin/python3.11 60
sudo alternatives --set python3 /usr/bin/python3.11
sudo python3 -m ensurepip --upgrade
sudo python3 -m pip install --upgrade pip

sudo python3 -m pip install nv_attestation_sdk==2.5.0.post6914366 nv_local_gpu_verifier==2.5.0.post6914366 nv_ppcie_verifier==1.5.0.post6914366 -f https://attest-public-cn-beijing.oss-cn-beijing.aliyuncs.com/repo/pip/attest.html

    2. Instal dependensi terkait NVSwitch.

      wget https://developer.download.nvidia.cn/compute/cuda/repos/rhel8/x86_64/libnvidia-nscq-570-570.148.08-1.x86_64.rpm
sudo rpm -ivh libnvidia-nscq-570-570.148.08-1.x86_64.rpm

    3. Jalankan perintah berikut untuk memverifikasi status kepercayaan GPU/NVSwitch.

      python3 -m ppcie.verifier.verification --gpu-attestation-mode=LOCAL --switch-attestation-mode=LOCAL

      Kode contoh memverifikasi delapan GPU dan empat NVSwitch. Output SUCCESS menunjukkan bahwa verifikasi berhasil:

      image

      Contoh output lengkap

      **************************************************
*    PPCIE: Memulai PPCIE Verification Tool     *
**************************************************
**************************************************
*          PPCIE: Jumlah GPU adalah: 8           *
**************************************************
**************************************************
*       PPCIE: Jumlah NVSwitch adalah: 4       *
**************************************************
Nonce dibuat: 006a638b032ae5eed158d6584dd13429de5743ce36498e60b7256703ce6a68ae
Jumlah GPU yang tersedia: 8
Mengambil informasi GPU 0 dari driver GPU.
Mengambil informasi GPU 1 dari driver GPU.
Mengambil informasi GPU 2 dari driver GPU.
Mengambil informasi GPU 3 dari driver GPU.
Mengambil informasi GPU 4 dari driver GPU.
Mengambil informasi GPU 5 dari driver GPU.
Mengambil informasi GPU 6 dari driver GPU.
Mengambil informasi GPU 7 dari driver GPU.
Semua Bukti GPU berhasil diambil
**************************************************
*           PPCIE: Mengesahkan GPU            *
**************************************************
Atur OCSP_NONCE_DISABLED ke True saat menggunakan layanan OCSP aliyun
-----------------------------------
Memverifikasi GPU: GPU-db98b8e0-51c7-d188-99ec-6755455abcd9
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 0 dengan UUID GPU-db98b8e0-51c7-d188-99ec-6755455abcd9 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-d5372674-da51-fe3c-29f7-034c6aad55bd
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 1 dengan UUID GPU-d5372674-da51-fe3c-29f7-034c6aad55bd berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-3865b295-1fd1-a21a-a4d3-07bc47ff31ca
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 2 dengan UUID GPU-3865b295-1fd1-a21a-a4d3-07bc47ff31ca berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-98377e04-ff60-ecac-beb5-28b3e8005c64
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 3 dengan UUID GPU-98377e04-ff60-ecac-beb5-28b3e8005c64 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-ecab3a2a-0cb3-eebd-6a46-b941338b9e5f
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 4 dengan UUID GPU-ecab3a2a-0cb3-eebd-6a46-b941338b9e5f berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-91acee11-dd57-920c-c2f9-0b67fc4540d6
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 5 dengan UUID GPU-91acee11-dd57-920c-c2f9-0b67fc4540d6 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-84370594-42f5-cbbe-a71c-b6d22ba45b65
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 6 dengan UUID GPU-84370594-42f5-cbbe-a71c-b6d22ba45b65 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-4d8767db-a4ed-4ec1-d863-6c7635366dd1
        Versi driver yang diambil: 570.148.08
        Versi VBIOS yang diambil: 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware di rantai sertifikat perangkat cocok dengan yang ada di laporan atestasi.
                Validasi rantai sertifikat laporan atestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi driver yang diambil dari laporan atestasi: 570.148.08
                Versi VBIOS yang diambil dari laporan atestasi: 96.00.cf.00.05
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM Driver
                        Mengambil RIM driver dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM driver berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM driver berhasil.
                        Verifikasi RIM Driver berhasil
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                GPU dalam keadaan yang diharapkan.
        GPU 7 dengan UUID GPU-4d8767db-a4ed-4ec1-d863-6c7635366dd1 berhasil diverifikasi.
Atestasi GPU Berhasil.
**************************************************
*      PPCIE: Hasil Atestasi GPU: True      *
**************************************************
**************************************************
*        PPCIE: Atestasi GPU Selesai         *
**************************************************
Nonce dibuat: 2c345829a31f1650d6185413183b6878c578759c2ef9b4f1f0ed313d38f6c7c3
Mendapatkan detail bukti untuk SWX-F6E1D86E-20D5-7BE5-85AD-E5EF52A80504
Mendapatkan detail bukti untuk SWX-C9296F62-ECDB-F271-3C5A-D7F03F733A4C
Mendapatkan detail bukti untuk SWX-15D9CFBE-E466-0EC5-364C-9EAA0671C686
Mendapatkan detail bukti untuk SWX-4D9DEC0E-C8BC-5CC5-F664-96D874434D05
Semua Bukti nvSwitch berhasil diambil
**************************************************
*         PPCIE: Mengesahkan switch           *
**************************************************
Atur ocsp_nonce_disabled ke True saat menggunakan layanan OCSP aliyun
-----------------------------------
Memverifikasi Switch : 0
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan atestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi VBIOS yang diambil dari laporan atestasi: 96.10.6D.00.01
Versi VBIOS dalam laporan atestasi cocok.
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file berhasil diselesaikan
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                Switch dalam keadaan yang diharapkan.
        nvSwitch 0 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 1
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan atestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi VBIOS yang diambil dari laporan atestasi: 96.10.6D.00.01
Versi VBIOS dalam laporan atestasi cocok.
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file berhasil diselesaikan
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                Switch dalam keadaan yang diharapkan.
        nvSwitch 1 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 2
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan atestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi VBIOS yang diambil dari laporan atestasi: 96.10.6D.00.01
Versi VBIOS dalam laporan atestasi cocok.
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file berhasil diselesaikan
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                Switch dalam keadaan yang diharapkan.
        nvSwitch 2 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 3
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan atestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request berhasil diselesaikan
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengautentikasi laporan atestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dibuat.
                Versi VBIOS yang diambil dari laporan atestasi: 96.10.6D.00.01
Versi VBIOS dalam laporan atestasi cocok.
                Verifikasi tanda tangan laporan atestasi berhasil.
                Verifikasi laporan atestasi berhasil.
        Mengautentikasi RIM.
                Mengautentikasi RIM VBIOS.
                        Mengambil RIM VBIOS dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file berhasil diselesaikan
                        Validasi Skema RIM lulus.
                        Verifikasi rantai sertifikat RIM vbios berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan RIM vbios berhasil.
                        Verifikasi RIM VBIOS berhasil
        Membandingkan ukuran (waktu proses vs golden)
                        Ukuran waktu proses cocok dengan ukuran golden.                            
                Switch dalam keadaan yang diharapkan.
        nvSwitch 3 berhasil diverifikasi.
Semua nvSwitch Berhasil Disahkan
**************************************************
*    PPCIE: Hasil atestasi switch adalah True    *
**************************************************
**************************************************
*      PPCIE: Atestasi Switch Selesai       *
**************************************************
**************************************************
*           PPCIE: Status GPU adalah READY          *
**************************************************
+--------------------+---------+
|       TAHAP        |  STATUS |
+--------------------+---------+
|    Pra-cek GPU     | BERHASIL|
|   Pra-cek Switch   | BERHASIL|
|    Atestasi GPU    | BERHASIL|
|   Atestasi Switch  | BERHASIL|
|    Cek Topologi    | BERHASIL|
+--------------------+---------+
**************************************************
*     PPCIE: Akhir dari PPCIE Verification Tool      *
**************************************************

    Batasan

    • Karena fitur ini dibangun di atas TDX, fitur ini mewarisi batasan instans komputasi rahasia TDX. Untuk informasi selengkapnya, lihat Batasan yang diketahui dari instans TDX.

    • Setelah fitur komputasi rahasia GPU diaktifkan, transfer data antara CPU dan GPU memerlukan enkripsi dan dekripsi. Proses enkripsi dan dekripsi ini mengakibatkan performa lebih rendah untuk tugas terkait GPU dibandingkan pada instans heterogen non-rahasia.

    Catatan Penggunaan

    1. Instans single-GPU menggunakan CUDA 12.4. Pustaka NVIDIA cuBLAS memiliki masalah yang diketahui yang dapat menyebabkan error saat menjalankan tugas CUDA atau LLM. Untuk mengatasinya, instal versi spesifik cuBLAS.

      pip3 install nvidia-cublas-cu12==12.4.5.8

    2. Setelah fitur komputasi rahasia GPU diaktifkan, proses inisialisasi menjadi lambat, terutama untuk instans 8-GPU. Setelah guest OS dimulai, Anda harus memverifikasi bahwa layanan nvidia-persistenced telah selesai dimulai sebelum menggunakan GPU dengan menjalankan perintah nvidia-smi atau perintah lainnya. Untuk memeriksa status layanan nvidia-persistenced, jalankan perintah berikut:

      systemctl status nvidia-persistenced | grep "Active: "

      • activating (start) menunjukkan bahwa layanan sedang dimulai.

        Active: activating (start) since Wed 2025-02-19 10:07:54 CST; 2min 20s ago

      • active (running) menunjukkan bahwa layanan sedang berjalan.

        Active: active (running) since Wed 2025-02-19 10:10:28 CST; 22s ago

    3. Setiap layanan auto-start yang menggunakan GPU, seperti cloudmonitor.service, nvidia-cdi-refresh.service (dari paket nvidia-container-toolkit-base), atau ollama.service, harus dikonfigurasi untuk dimulai setelah nvidia-persistenced.service.

      Berikut adalah contoh konfigurasi untuk /usr/lib/systemd/system/nvidia-persistenced.service:

      [Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service nvidia-cdi-refresh.service ollama.service
After=nvidia-fabricmanager.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root --uvm-persistence-mode --verbose
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced
TimeoutStartSec=900
TimeoutStopSec=60

[Install]
WantedBy=multi-user.target