All Products
Search

This Product

    Elastic Compute Service:Bangun lingkungan komputasi rahasia heterogen

    Document Center

    Elastic Compute Service:Bangun lingkungan komputasi rahasia heterogen

    Last Updated:May 16, 2026

    Siapkan lingkungan komputasi rahasia heterogen pada instans gn8v-tee dan verifikasi komputasi rahasia GPU dengan kode contoh.

    Latar Belakang

    Instans komputasi rahasia heterogen Alibaba Cloud (gn8v-tee) memperluas instans komputasi rahasia CPU TDX dengan mengintegrasikan GPU ke dalam Trusted Execution Environment (TEE), sehingga melindungi transfer data antara CPU dan GPU serta komputasi data GPU. Untuk membangun lingkungan komputasi rahasia CPU TDX dan memverifikasi remote attestation, lihat 构建TDX机密计算环境. Untuk men-deploy inferensi LLM pada instans komputasi rahasia heterogen, lihat Measured LLM inference on confidential instance.

    GPU pada instans komputasi rahasia heterogen dimulai dalam mode komputasi rahasia. Mekanisme berikut menjamin kerahasiaan:

    1. TDX mencegah Hypervisor/Host OS mengakses register sensitif atau data memori instans.

    2. Firewall PCIe mencegah CPU mengakses register kritis GPU dan memori video terlindungi. Hypervisor/Host OS hanya dapat melakukan operasi terbatas seperti mereset GPU, tetapi tidak dapat mengakses data sensitif.

    3. NVLink Firewall GPU memblokir GPU lain agar tidak langsung mengakses memori videonya.

    4. Selama inisialisasi, driver GPU dan fungsi pustaka di dalam CPU TEE membentuk saluran terenkripsi dengan GPU melalui protokol SPDM. Setelah negosiasi kunci, hanya ciphertext yang dikirimkan melalui PCIe antara CPU dan GPU.

    5. Kemampuan remote attestation GPU memastikan bahwa GPU berada dalam kondisi aman.

      Aplikasi dalam instans komputasi rahasia dapat menggunakan Attestation SDK untuk memanggil driver GPU dan memperoleh laporan kriptografis mengenai status keamanan GPU. Laporan ini berisi informasi yang ditandatangani secara kriptografis tentang perangkat keras GPU, VBIOS, dan pengukuran status perangkat keras. Pihak yang bergantung dapat membandingkan pengukuran ini dengan pengukuran referensi dari vendor GPU untuk memverifikasi bahwa GPU berada dalam kondisi komputasi rahasia yang aman.

    Catatan Penggunaan

    Komputasi rahasia heterogen memerlukan image Alibaba Cloud Linux 3. Jika Anda menggunakan custom image berbasis Alibaba Cloud Linux 3, pastikan versi kernel adalah 5.10.134-18 atau lebih baru.

    Buat instans komputasi rahasia heterogen (gn8v-tee)

    Konsol

    Membuat instans komputasi rahasia heterogen mirip dengan membuat instans standar, tetapi memerlukan konfigurasi khusus. Untuk konfigurasi umum, lihat Create an instance using the wizard.

    1. Buka ECS console - Instances.

    2. Di pojok kiri atas halaman, pilih wilayah dan resource group.地域

    3. Klik Create Instance dan konfigurasikan instans dengan pengaturan berikut.

      Item Konfigurasi

      Deskripsi

      Region and Zone

      China (Beijing) Zone L

      Instance Type

      ecs.gn8v-tee.4xlarge atau lebih tinggi.

      Image

      Pilih image Alibaba Cloud Linux 3.2104 LTS 64-bit.

      Public IP Address

      Assign Public IPv4 Address. Diperlukan untuk mengunduh driver NVIDIA nanti.

      Penting

      Saat membuat atau me-restart instans rahasia dengan 8 GPU, jangan menyambungkan ENI sekunder tambahan atau disk data. Hal ini dapat menyebabkan kegagalan startup.

      Penyebab dan solusi

      Instans ECS dengan TDX aktif menggunakan wilayah memori non-terenkripsi, yaitu Software Input Output Translation Lookaside Buffer (SWIOTLB), untuk komunikasi perangkat periferal. Secara default, ukuran SWIOTLB adalah 6% dari memori yang tersedia, dengan maksimum 1 GiB.

      Menyambungkan beberapa ENI atau disk data ke instans rahasia dengan 8 GPU dapat menghabiskan memori SWIOTLB, menyebabkan kegagalan alokasi memori yang mencegah startup.

      Jika instans gagal dinyalakan:

      • Solusi 1: Hentikan instans, unbind ENI sekunder tambahan, dan detach semua disk data.

      • Solusi 2: Buat instans baru dengan hanya satu ENI primer, tanpa disk data, dan hanya menggunakan disk sistem.

      Untuk menambahkan beberapa ENI atau disk data ke instans rahasia dengan 8 GPU, pertama-tama selesaikan Langkah 1 guna meningkatkan buffer SWIOTLB menjadi 8 GB. Selanjutnya, menyambungkan ENI ke instans dan menyambungkan disk data.

    4. Selesaikan pembuatan instans dengan mengikuti instruksi di layar.

    API/CLI

    Panggil operasi RunInstances atau gunakan Alibaba Cloud CLI untuk membuat instans ECS yang mendukung TDX. Parameter utama:

    Parameter

    Deskripsi

    Contoh

    RegionId

    China (Beijing)

    cn-beijing

    ZoneId

    Zone L

    cn-beijing-l

    InstanceType

    ecs.gn8v-tee.4xlarge atau lebih tinggi.

    ecs.gn8v-tee.4xlarge

    ImageId

    ID image yang mendukung komputasi rahasia. Hanya image Alibaba Cloud Linux 3.2104 LTS 64-bit dengan versi kernel 5.10.134-18.al8.x86_64 atau lebih baru.

    aliyun_3_x64_20G_alibase_20250117.vhd

    Contoh CLI:

    <SECURITY_GROUP_ID>: ID security group. <VSWITCH_ID>: ID vSwitch. <KEY_PAIR_NAME>: nama SSH key pair.
    aliyun ecs RunInstances \
  --RegionId cn-beijing \
  --ZoneId cn-beijing-l \
  --SystemDisk.Category cloud_essd \
  --ImageId 'aliyun_3_x64_20G_alibase_20250117.vhd' \
  --InstanceType 'ecs.gn8v-tee.4xlarge' \
  --SecurityGroupId '<SECURITY_GROUP_ID>' \
  --VSwitchId '<VSWITCH_ID>' \
  --KeyPairName <KEY_PAIR_NAME>

    Bangun lingkungan komputasi rahasia heterogen

    Langkah 1: Instal driver NVIDIA dan CUDA Toolkit

    Penting

    Instans komputasi rahasia heterogen membutuhkan waktu lama untuk inisialisasi. Tunggu hingga status instans menjadi Running dan sistem operasi telah sepenuhnya dimulai.

    Langkah instalasi bervariasi tergantung tipe instans:

    • Instans rahasia single-GPU: ecs.gn8v-tee.4xlarge dan ecs.gn8v-tee.6xlarge

    • Instans rahasia 8-GPU: ecs.gn8v-tee-8x.16xlarge dan ecs.gn8v-tee-8x.48xlarge

    Instans rahasia single-GPU

    1. Sambungkan ke instans komputasi rahasia. Lihat Log on to a Linux instance using Workbench.

    2. Atur buffer SWIOTLB menjadi 8 GB.

      sudo grubby --update-kernel=ALL --args="swiotlb=4194304,any"

    3. Restart instans. Lihat Restart an instance.

    4. Unduh driver NVIDIA dan CUDA Toolkit.

      Instans rahasia single-GPU memerlukan versi driver 550.144.03 atau lebih baru. Contoh ini menggunakan 550.144.03.
      wget --referer=https://www.nvidia.cn/ https://cn.download.nvidia.cn/tesla/550.144.03/NVIDIA-Linux-x86_64-550.144.03.run
wget https://developer.download.nvidia.com/compute/cuda/12.4.1/local_installers/cuda_12.4.1_550.54.15_linux.run

    5. Instal dependensi dan nonaktifkan layanan CloudMonitor.

      sudo yum install -y openssl3
sudo systemctl disable cloudmonitor
sudo systemctl stop cloudmonitor

    6. Buat dan konfigurasikan nvidia-persistenced.service.

      cat > nvidia-persistenced.service << EOF
[Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced

[Install]
WantedBy=multi-user.target
EOF

sudo cp nvidia-persistenced.service /usr/lib/systemd/system/nvidia-persistenced.service

    7. Instal driver NVIDIA dan CUDA Toolkit.

      sudo bash NVIDIA-Linux-x86_64-550.144.03.run --ui=none --no-questions --accept-license --disable-nouveau --no-cc-version-check --install-libglvnd --kernel-module-build-directory=kernel-open --rebuild-initramfs
sudo bash cuda_12.4.1_550.54.15_linux.run --silent --toolkit

    8. Jalankan layanan nvidia-persistenced dan CloudMonitor.

      sudo systemctl start nvidia-persistenced.service
sudo systemctl enable nvidia-persistenced.service
sudo systemctl start cloudmonitor
sudo systemctl enable cloudmonitor

    Instans rahasia 8-GPU

    1. Sambungkan ke instans komputasi rahasia. Lihat Log on to a Linux instance using Workbench.

      Penting

      Instans komputasi rahasia membutuhkan waktu lama untuk inisialisasi. Tunggu hingga proses selesai sebelum melanjutkan.

    2. Atur buffer SWIOTLB menjadi 8 GB.

      sudo grubby --update-kernel=ALL --args="swiotlb=4194304,any"

    3. Konfigurasikan perilaku pemuatan driver NVIDIA dan buat ulang initramfs.

      sudo bash -c 'cat > /etc/modprobe.d/nvidia-lkca.conf << EOF
install nvidia /sbin/modprobe ecdsa_generic; /sbin/modprobe ecdh; /sbin/modprobe --ignore-install nvidia
options nvidia NVreg_RegistryDwords="RmEnableProtectedPcie=0x1"
EOF'

sudo dracut --regenerate-all -f

    4. Restart instans. Lihat Restart an instance.

    5. Unduh driver NVIDIA dan CUDA Toolkit.

      Instans komputasi rahasia 8-GPU memerlukan versi driver 570.148.08 atau lebih baru dan Fabric Manager yang sesuai. Contoh ini menggunakan 570.148.08.
      wget --referer=https://www.nvidia.cn/ https://cn.download.nvidia.cn/tesla/570.148.08/NVIDIA-Linux-x86_64-570.148.08.run
wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run
wget https://developer.download.nvidia.cn/compute/cuda/repos/rhel8/x86_64/nvidia-fabric-manager-570.148.08-1.x86_64.rpm

    6. Instal dependensi dan nonaktifkan layanan CloudMonitor.

      sudo yum install -y openssl3
sudo systemctl disable cloudmonitor
sudo systemctl stop cloudmonitor

    7. Buat dan konfigurasikan nvidia-persistenced.service.

      cat > nvidia-persistenced.service << EOF
[Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service
After=nvidia-fabricmanager.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root --uvm-persistence-mode --verbose
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced
TimeoutStartSec=900
TimeoutStopSec=60

[Install]
WantedBy=multi-user.target
EOF

sudo cp nvidia-persistenced.service /usr/lib/systemd/system/nvidia-persistenced.service

    8. Instal Fabric Manager, driver NVIDIA, dan CUDA Toolkit.

      sudo rpm -ivh nvidia-fabric-manager-570.148.08-1.x86_64.rpm
sudo bash NVIDIA-Linux-x86_64-570.148.08.run --ui=none --no-questions --accept-license --disable-nouveau --no-cc-version-check --install-libglvnd --kernel-module-build-directory=kernel-open --rebuild-initramfs
sudo bash cuda_12.8.1_570.124.06_linux.run --silent --toolkit

    9. Jalankan dan aktifkan layanan nvidia-fabricmanager, nvidia-persistenced, dan cloudmonitor.

      sudo systemctl start nvidia-fabricmanager.service
sudo systemctl enable nvidia-fabricmanager.service
sudo systemctl start nvidia-persistenced.service
sudo systemctl enable nvidia-persistenced.service
sudo systemctl start cloudmonitor
sudo systemctl enable cloudmonitor

    Langkah 2: Periksa status TDX

    Fitur ini bergantung pada TDX. Periksa status TDX untuk memverifikasi bahwa instans dilindungi.

    1. Periksa apakah TDX diaktifkan.

      lscpu |grep -i tdx_guest

      Jika output berisi tdx_guest, berarti TDX diaktifkan.tdx-install

    2. Periksa instalasi driver terkait TDX.

      ls -l /dev/tdx_guest

      Output berikut menunjukkan driver terkait TDX telah terinstal.image

    Langkah 3: Periksa status fitur komputasi rahasia GPU

    Instans rahasia single-GPU

    Periksa status komputasi rahasia.

    nvidia-smi conf-compute -f

    CC status: ON menunjukkan komputasi rahasia diaktifkan. CC status: OFF menunjukkan fitur dinonaktifkan karena error instans. Jika hal ini terjadi, submit a ticket.

    image

    Instans rahasia 8-GPU

    Periksa status komputasi rahasia.

    nvidia-smi conf-compute -mgm

    Multi-GPU Mode: Protected PCIe menunjukkan komputasi rahasia multi-GPU diaktifkan. Multi-GPU Mode: None menunjukkan fitur dinonaktifkan karena error instans. Jika hal ini terjadi, submit a ticket.

    image

    Catatan

    Untuk instans rahasia 8-GPU, nvidia-smi conf-compute -f biasanya mengembalikan CC status: OFF.

    Langkah 4: Verifikasi kepercayaan GPU dan NVSwitch menggunakan local attestation

    Instans rahasia single-GPU

    1. Instal dependensi kepercayaan GPU.

      sudo yum install -y python3.11 python3.11-devel python3.11-pip
sudo alternatives --install /usr/bin/python3 python3 /usr/bin/python3.11 60
sudo alternatives --set python3 /usr/bin/python3.11
sudo python3 -m ensurepip --upgrade
sudo python3 -m pip install --upgrade pip

sudo python3 -m pip install nv_attestation_sdk==2.5.0.post6914366 nv_local_gpu_verifier==2.5.0.post6914366 nv_ppcie_verifier==1.5.0.post6914366 -f https://attest-public-cn-beijing.oss-cn-beijing.aliyuncs.com/repo/pip/attest.html

    2. Verifikasi status kepercayaan GPU.

      python3 -m verifier.cc_admin --user_mode

      Output menunjukkan GPU berada dalam mode komputasi rahasia dan pengukuran seperti driver dan VBIOS sesuai dengan nilai yang diharapkan:

      image

      Contoh output lengkap

      Generating nonce in the local GPU Verifier ..
Number of GPUs available : 1
Fetching GPU 0 information from GPU driver.
All GPU Evidences fetched successfully
Set OCSP_NONCE_DISABLED to True while using aliyun's OCSP service
-----------------------------------
Verifying GPU: GPU-e1e94012-8c7b-f9a2-d712-fc5b014f364c
        Driver version fetched : 550.144.03
        VBIOS version fetched : 96.00.cf.00.05
        Validating GPU certificate chains.
                The firmware ID in the device certificate chain is matching with the one in the attestation report.
                GPU attestation report certificate chain validation successful.
                        The certificate chain revocation status verification successful.
        Authenticating attestation report
                The nonce in the SPDM GET MEASUREMENT request message is matching with the generated nonce.
                Driver version fetched from the attestation report : 550.144.03
                VBIOS version fetched from the attestation report : 96.00.cf.00.05
                Attestation report signature verification successful.
                Attestation report verification successful.
        Authenticating the RIMs.
                Authenticating Driver RIM
                        Fetching the driver RIM from the RIM service.
                        RIM Schema validation passed.
                        driver RIM certificate chain verification successful.
                        The certificate chain revocation status verification successful.
                        driver RIM signature verification successful.
                        Driver RIM verification successful
                Authenticating VBIOS RIM.
                        Fetching the VBIOS RIM from the RIM service.
                        RIM Schema validation passed.
                        vbios RIM certificate chain verification successful.
                        The certificate chain revocation status verification successful.
                        vbios RIM signature verification successful.
                        VBIOS RIM verification successful
        Comparing measurements (runtime vs golden)
                        The runtime measurements are matching with the golden measurements.                            
                GPU is in expected state.
        GPU 0 with UUID GPU-e1e94012-8c7b-f9a2-d712-fc5b014f364c verified successfully.
GPU Attestation is Successful.

    Instans rahasia 8-GPU

    1. Instal dependensi kepercayaan GPU.

      sudo yum install -y python3.11 python3.11-devel python3.11-pip
sudo alternatives --install /usr/bin/python3 python3 /usr/bin/python3.11 60
sudo alternatives --set python3 /usr/bin/python3.11
sudo python3 -m ensurepip --upgrade
sudo python3 -m pip install --upgrade pip

sudo python3 -m pip install nv_attestation_sdk==2.5.0.post6914366 nv_local_gpu_verifier==2.5.0.post6914366 nv_ppcie_verifier==1.5.0.post6914366 -f https://attest-public-cn-beijing.oss-cn-beijing.aliyuncs.com/repo/pip/attest.html

    2. Instal dependensi NVSwitch.

      wget https://developer.download.nvidia.cn/compute/cuda/repos/rhel8/x86_64/libnvidia-nscq-570-570.148.08-1.x86_64.rpm
sudo rpm -ivh libnvidia-nscq-570-570.148.08-1.x86_64.rpm

    3. Verifikasi status kepercayaan GPU/NVSwitch.

      python3 -m ppcie.verifier.verification --gpu-attestation-mode=LOCAL --switch-attestation-mode=LOCAL

      Kode contoh memverifikasi delapan GPU dan empat NVSwitch. SUCCESS menunjukkan verifikasi berhasil:

      image

      Contoh output lengkap

      **************************************************
*    PPCIE: Memulai Alat Verifikasi PPCIE    *
**************************************************
**************************************************
*          PPCIE: Jumlah GPU adalah: 8          *
**************************************************
**************************************************
*       PPCIE: Jumlah NVSwitch adalah: 4       *
**************************************************
Nonce yang dihasilkan: 006a638b032ae5eed158d6584dd13429de5743ce36498e60b7256703ce6a68ae
Jumlah GPU yang tersedia : 8
Mengambil informasi GPU 0 dari driver GPU.
Mengambil informasi GPU 1 dari driver GPU.
Mengambil informasi GPU 2 dari driver GPU.
Mengambil informasi GPU 3 dari driver GPU.
Mengambil informasi GPU 4 dari driver GPU.
Mengambil informasi GPU 5 dari driver GPU.
Mengambil informasi GPU 6 dari driver GPU.
Mengambil informasi GPU 7 dari driver GPU.
Semua Bukti GPU berhasil diambil
**************************************************
*           PPCIE: Melakukan attestasi GPU           *
**************************************************
Setel OCSP_NONCE_DISABLED ke True saat menggunakan layanan OCSP aliyun
-----------------------------------
Memverifikasi GPU: GPU-db98b8e0-51c7-d188-99ec-6755455abcd9
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 0 dengan UUID GPU-db98b8e0-51c7-d188-99ec-6755455abcd9 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-d5372674-da51-fe3c-29f7-034c6aad55bd
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 1 dengan UUID GPU-d5372674-da51-fe3c-29f7-034c6aad55bd berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-3865b295-1fd1-a21a-a4d3-07bc47ff31ca
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 2 dengan UUID GPU-3865b295-1fd1-a21a-a4d3-07bc47ff31ca berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-98377e04-ff60-ecac-beb5-28b3e8005c64
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 3 dengan UUID GPU-98377e04-ff60-ecac-beb5-28b3e8005c64 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-ecab3a2a-0cb3-eebd-6a46-b941338b9e5f
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 4 dengan UUID GPU-ecab3a2a-0cb3-eebd-6a46-b941338b9e5f berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-91acee11-dd57-920c-c2f9-0b67fc4540d6
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 5 dengan UUID GPU-91acee11-dd57-920c-c2f9-0b67fc4540d6 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-84370594-42f5-cbbe-a71c-b6d22ba45b65
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 6 dengan UUID GPU-84370594-42f5-cbbe-a71c-b6d22ba45b65 berhasil diverifikasi.
-----------------------------------
Memverifikasi GPU: GPU-4d8767db-a4ed-4ec1-d863-6c7635366dd1
        Versi driver yang diambil : 570.148.08
        Versi VBIOS yang diambil : 96.00.cf.00.05
        Memvalidasi rantai sertifikat GPU.
                ID firmware dalam rantai sertifikat perangkat cocok dengan yang ada dalam laporan attestasi.
                Validasi rantai sertifikat laporan attestasi GPU berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi driver yang diambil dari laporan attestasi : 570.148.08
                Versi VBIOS yang diambil dari laporan attestasi : 96.00.cf.00.05
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi Driver RIM
                        Mengambil driver RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat driver RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan driver RIM berhasil.
                        Verifikasi Driver RIM berhasil
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                GPU berada dalam kondisi yang diharapkan.
        GPU 7 dengan UUID GPU-4d8767db-a4ed-4ec1-d863-6c7635366dd1 berhasil diverifikasi.
Attestasi GPU Berhasil.
**************************************************
*      PPCIE: Hasil attestasi GPU: True      *
**************************************************
**************************************************
*        PPCIE: Attestasi GPU Selesai        *
**************************************************
Nonce yang dihasilkan: 2c345829a31f1650d6185413183b6878c578759c2ef9b4f1f0ed313d38f6c7c3
Mengambil detail bukti untuk SWX-F6E1D86E-20D5-7BE5-85AD-E5EF52A80504
Mengambil detail bukti untuk SWX-C9296F62-ECDB-F271-3C5A-D7F03F733A4C
Mengambil detail bukti untuk SWX-15D9CFBE-E466-0EC5-364C-9EAA0671C686
Mengambil detail bukti untuk SWX-4D9DEC0E-C8BC-5CC5-F664-96D874434D05
Semua Bukti nvSwitch berhasil diambil
**************************************************
*         PPCIE: Melakukan attestasi switch         *
**************************************************
Setel ocsp_nonce_disabled ke True saat menggunakan layanan OCSP aliyun
-----------------------------------
Memverifikasi Switch : 0
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan attestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi VBIOS yang diambil dari laporan attestasi : 96.10.6D.00.01
Versi VBIOS dalam laporan attestasi cocok.
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file selesai berhasil
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                Switch berada dalam kondisi yang diharapkan.
        nvSwitch 0 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 1
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan attestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi VBIOS yang diambil dari laporan attestasi : 96.10.6D.00.01
Versi VBIOS dalam laporan attestasi cocok.
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file selesai berhasil
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                Switch berada dalam kondisi yang diharapkan.
        nvSwitch 1 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 2
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan attestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi VBIOS yang diambil dari laporan attestasi : 96.10.6D.00.01
Versi VBIOS dalam laporan attestasi cocok.
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file selesai berhasil
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                Switch berada dalam kondisi yang diharapkan.
        nvSwitch 2 berhasil diverifikasi.
-----------------------------------
Memverifikasi Switch : 3
Info NVSwitch berhasil diambil.
        Memvalidasi rantai sertifikat Switch.
                Validasi rantai sertifikat laporan attestasi nvSwitch berhasil.
send_ocsp_request dipanggil.
send_ocsp_request selesai berhasil
                        Verifikasi status pencabutan rantai sertifikat berhasil.
        Mengotentikasi laporan attestasi
                Nonce dalam paket permintaan SPDM GET MEASUREMENT cocok dengan nonce yang dihasilkan.
                Versi VBIOS yang diambil dari laporan attestasi : 96.10.6D.00.01
Versi VBIOS dalam laporan attestasi cocok.
                Verifikasi tanda tangan laporan attestasi berhasil.
                Verifikasi laporan attestasi berhasil.
        Mengotentikasi RIM.
                Mengotentikasi VBIOS RIM.
                        Mengambil VBIOS RIM dari layanan RIM.
fetch_rim_file dipanggil.
fetch_rim_file selesai berhasil
                        Validasi Skema RIM lolos.
                        Verifikasi rantai sertifikat vbios RIM berhasil.
                        Verifikasi status pencabutan rantai sertifikat berhasil.
                        Verifikasi tanda tangan vbios RIM berhasil.
                        Verifikasi VBIOS RIM berhasil
        Membandingkan pengukuran (waktu proses vs emas)
                        Pengukuran waktu proses cocok dengan pengukuran emas.                            
                Switch berada dalam kondisi yang diharapkan.
        nvSwitch 3 berhasil diverifikasi.
Semua nvSwitch Berhasil Diattestasi
**************************************************
*    PPCIE: Hasil attestasi switch adalah True    *
**************************************************
**************************************************
*      PPCIE: Attestasi Switch Selesai      *
**************************************************
**************************************************
*           PPCIE: Status GPU adalah SIAP           *
**************************************************
+--------------------+---------+
|       TAHAP        |  STATUS |
+--------------------+---------+
|   Pemeriksaan Awal GPU   | BERHASIL |
| Pemeriksaan Awal Switch  | BERHASIL |
|  Attestasi GPU   | BERHASIL |
| Attestasi Switch | BERHASIL |
|  Pemeriksaan Topologi   | BERHASIL |
+--------------------+---------+
**************************************************
*     PPCIE: Akhir dari Alat Verifikasi PPCIE     *
**************************************************

    Batasan

    • Fitur ini mewarisi batasan instans TDX.

    • Dengan komputasi rahasia GPU diaktifkan, transfer data CPU-GPU memerlukan enkripsi dan dekripsi, sehingga menghasilkan performa tugas GPU yang lebih rendah dibandingkan instans heterogen non-rahasia.

    Catatan Penggunaan

    1. Instans single-GPU menggunakan CUDA 12.4. Pustaka NVIDIA cuBLAS memiliki masalah yang diketahui yang dapat menyebabkan error saat menjalankan tugas CUDA atau LLM. Instal versi cuBLAS tertentu untuk mengatasi hal ini.

      pip3 install nvidia-cublas-cu12==12.4.5.8

    2. Dengan komputasi rahasia GPU diaktifkan, inisialisasi berjalan lambat, terutama untuk instans 8-GPU. Setelah guest OS dimulai, verifikasi bahwa nvidia-persistenced telah selesai dimulai sebelum menggunakan GPU dengan perintah nvidia-smi atau lainnya. Periksa status layanan nvidia-persistenced:

      systemctl status nvidia-persistenced | grep "Active: "

      • activating (start) — layanan sedang dimulai.

        Active: activating (start) since Wed 2025-02-19 10:07:54 CST; 2min 20s ago

      • active (running) — layanan sedang berjalan.

        Active: active (running) since Wed 2025-02-19 10:10:28 CST; 22s ago

    3. Layanan auto-start yang bergantung pada GPU, seperti cloudmonitor.service, nvidia-cdi-refresh.service (dari nvidia-container-toolkit-base), atau ollama.service, harus dimulai setelah nvidia-persistenced.service.

      Contoh konfigurasi untuk /usr/lib/systemd/system/nvidia-persistenced.service:

      [Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target
Before=cloudmonitor.service nvidia-cdi-refresh.service ollama.service
After=nvidia-fabricmanager.service

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user root --uvm-persistence-mode --verbose
ExecStartPost=/usr/bin/nvidia-smi conf-compute -srs 1
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced
TimeoutStartSec=900
TimeoutStopSec=60

[Install]
WantedBy=multi-user.target