在Linux系統上使用GPU時,可能會因為GPU的GSP(GPU System Processor)組件運行狀態異常,導致GPU卡在初始化時提示失敗(例如出現XID 119或XID 120錯誤資訊),本文為您介紹這種情況的解決方案。
問題現象
使用GPU時出現GPU掉卡現象,例如在Linux系統上使用GPU時,出現GPU卡初始化失敗的錯誤提示。執行sh nvidia-bug-report.sh nvidia-bug-report.sh命令後,在產生的日誌中,可以看到XID 119或XID 120錯誤資訊。以XID 119報錯頁面為例,顯示如下:
Xid (PCI:0000:69:00): 119, pid=18584, name=cache_mgr_main, Timeout waiting for RPC from GSP! Expected function 10 (FREE) (0xa55a0120 0x0).
Xid (PCI:0000:69:00): 119, pid=18584, name=cache_mgr_main, Timeout waiting for RPC from GSP! Expected function 10 (FREE) (0xa55a0030 0x0).
Xid (PCI:0000:69:00): 119, pid=18584, name=cache_mgr_main, Timeout waiting for RPC from GSP! Expected function 10 (FREE) (0xa55a0020 0x0).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800110 0x84).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800a4c 0x4).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800a4c 0x4).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x2080014a 0x10c).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800810 0x7c).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x208001a4 0x10).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800609 0x8).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x2080014b 0x5).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x20800157 0x0).
Xid (PCI:0000:69:00): 119, pid=25394, name=nvidia-smi, Timeout waiting for RPC from GSP! Expected function 76 (GSP_RM_CONTROL) (0x2080014b 0x5).
關於其他XID Errors的更多資訊,請參見NVIDIA Common XID Errors。
問題原因
引起上述問題的原因可能是GPU的GSP(GPU System Processor)組件運行狀態異常,升級NVIDIA最新版本驅動後,如果GPU掉卡問題仍然會複現,則建議您關閉GSP功能。
如果您想瞭解更多關於GSP功能的影響詳情,請參見開啟或關閉GSP功能的影響。
解決方案
-
遠端連線GPU執行個體。
具體操作,請參見使用Workbench登入Linux執行個體。
-
執行以下命令,關閉GPU的GSP組件。
sudo su echo options nvidia NVreg_EnableGpuFirmware=0 > /etc/modprobe.d/nvidia-gsp.conf -
重啟GPU執行個體。
具體操作,請參見重啟執行個體。
-
再次登入GPU執行個體。
-
執行以下命令,查看
EnableGpuFirmware參數值。cat /proc/driver/nvidia/params | grep EnableGpuFirmware:-
如果返回結果是
EnableGpuFirmware: 0,則表示GPU的GSP組件關閉,問題已修複。cat /proc/driver/nvidia/params | grep EnableGpuFirmware EnableGpuFirmware: 0說明只要
EnableGpuFirmware: 0,則執行nvidia-smi檢查GPU卡狀態時,其返回結果肯定是正常的。 -
如果返回結果不是
EnableGpuFirmware: 0,則表示GSP組件沒有關閉,請繼續執行下一步確認NVIDIA GPU是否正常。
-
-
執行
nvidia-smi命令,確認NVIDIA GPU卡是否正常。-
如果返回結果顯示GPU卡正常,例如GPU風扇轉速、溫度和效能模式等都正常,如下所示,則問題已解決。
[ecs-usexxxukZ ~]$ nvidia-smi Wed Aug 14 11:02:11 2024 +-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 550.90.07 Driver Version: 550.90.07 CUDA Version: 12.4 | |-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+========================+======================| | 0 NVIDIA A10 On | 00000000:00:07.0 Off | Off | | 0% 26C P8 9W / 150W | 1MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ +-----------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=========================================================================================| | No running processes found | +-----------------------------------------------------------------------------------------+ -
如果返回結果異常,表示NVIDIA GPU卡仍然存在問題,請聯絡阿里雲營運技術人員進行關機遷移操作。
-