Manually install the Tesla driver (Linux) - Elastic GPU Service: Central de Documentação do Alibaba Cloud

Para computação de alto desempenho ou aceleração gráfica em cargas de trabalho como deep learning, IA, OpenGL, Direct3D e cloud gaming, a GPU precisa ter o driver Tesla instalado para oferecer desempenho máximo e renderização gráfica fluida. Caso não tenha instalado o driver Tesla ao criar sua instância otimizada para computação com aceleração por GPU que executa Linux, instale-o manualmente depois. Este tópico descreve como instalar manualmente o driver Tesla em uma instância otimizada para computação com aceleração por GPU que executa Linux.

Procedimento

Este tópico aplica-se a todas as instâncias otimizadas para computação com aceleração por GPU que executam Linux. Para mais informações, consulte GPU-accelerated compute-optimized instances (gn/ebm/scc series). Instale apenas um driver Tesla compatível com o sistema operacional da instância. Por exemplo, uma instância GPU com Linux suporta somente o driver Tesla para Linux.

Etapa 1: Baixar o driver NVIDIA Tesla

Acesse a página de download de drivers da NVIDIA.

Nota
Para mais informações sobre como instalar e configurar drivers NVIDIA, consulte o Guia de início rápido de instalação de driver NVIDIA.

Defina os critérios de busca e clique em Search.

A tabela a seguir descreve os critérios de busca.

Critério	Descrição	Exemplo
Product type Product series Product family	Selecione o tipo de produto, a série do produto e a família do produto com base na GPU da sua instância. Nota Para visualizar os detalhes de uma instância GPU, como ID da instância, tipo de instância e sistema operacional, consulte View instance information.	Data Center / Tesla A-Series NVIDIA A10
Operating system	Selecione a versão do sistema operacional Linux com base na imagem usada pela sua instância.	Linux 64-bit
CUDA Toolkit	Selecione uma versão do CUDA Toolkit.	11,4
Language	Selecione um idioma para o driver.	Chinese (Simplified)

Informações da GPU, versões de driver suportadas e versões do CUDA Toolkit para alguns tipos de instância otimizada para computação com aceleração por GPU

Item	gn9gc	gn8v	gn8is	gn7e	gn7i	gn7	gn6e	gn6i	gn6v	gn5i	gn5
Product Type	NVIDIA RTX PRO	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla	Data Center / Tesla
Product series	B-Series	H-Series	L-Series	A-Series	A-Series	A-Series	V-Series	T-Series	V-Series	P-Series	P-Series
Versão recomendada do driver Tesla	580.126.09 ou posterior	570.133.20 ou posterior		450.80.02 ou posterior	460.73.01 ou posterior	450.80.02 ou posterior	410,79 ou posterior		Versões não anteriores a 410,79 e não posteriores a 580.
Versão recomendada do CUDA Toolkit	CUDA Toolkit 13.0 Update 2	CUDA Toolkit 12.4 Update 1		CUDA Toolkit 11.0 Update 1	CUDA Toolkit 11.2	CUDA Toolkit 11.0 Update 1	CUDA Toolkit 10.1 Update 2

Nota

A tabela anterior lista informações de GPU apenas para alguns tipos comuns de instância otimizada para computação com aceleração por GPU. Instâncias com o mesmo modelo de GPU compartilham as mesmas informações de GPU (tipo de produto, série do produto e família do produto). Por exemplo, tanto as instâncias ebmgn7i quanto as gn7i usam a GPU NVIDIA A10. Portanto, essas duas instâncias possuem o mesmo tipo de produto, série do produto e família do produto.
Ao instalar manualmente um driver Tesla e um pacote CUDA, garanta que a versão do driver seja compatível com a versão do pacote CUDA. Para mais informações, consulte Compatibilidade do CUDA.

Na página de resultados da busca, clique em Beta, Older Drivers, and More.
Localize o driver desejado e clique em View.

Por exemplo, selecione Data Center Driver for Linux x64 com a versão do driver 470.161.03 e versão do CUDA Toolkit 11,4.
Na página de detalhes do driver, clique com o botão direito em Download e selecione Copy Link Address.
Conecte-se à instância GPU Linux.

Para mais informações, consulte Connect to a Linux instance by using a password or key.
Execute o comando a seguir para baixar o pacote de instalação do driver.

A URL de download do driver no comando de exemplo é o link copiado na Etapa 5.
```
wget https://us.download.nvidia.com/tesla/470.161.03/NVIDIA-Linux-x86_64-470.161.03.run
```

Etapa 2: Instalar o driver NVIDIA Tesla

O método de instalação do driver Tesla depende do sistema operacional.

CentOS

Execute o comando a seguir para verificar se os pacotes kernel-devel e kernel-headers estão instalados.
```
sudo rpm  -qa | grep $(uname -r)
```
- Se a saída incluir informações de versão dos pacotes kernel-devel e kernel-headers, eles já estão instalados.
```
kernel-3.10.0-1062.18.1.el7.x86_64
kernel-devel-3.10.0-1062.18.1.el7.x86_64
kernel-headers-3.10.0-1062.18.1.el7.x86_64
```
- Caso não encontre kernel-devel- e kernel-headers- na saída, baixe e instale os pacotes kernel-devel e kernel-headers correspondentes à versão do seu kernel.
  
  Importante
  Se a versão do kernel-devel não corresponder à versão do kernel, a compilação do driver falhará durante a instalação do RPM do driver. Portanto, confirme o número da versão de *kernel-** na saída e, em seguida, baixe a versão correspondente do kernel-devel. Na saída de exemplo, a versão do kernel é 3.10.0-1062.18.1.el7.x86_64.
Conceda permissões e instale o driver Tesla.

Para sistemas operacionais Linux de 64 bits, recomendamos usar o driver Tesla no formato .run, como NVIDIA-Linux-x86_64-xxxx.run. Execute os comandos a seguir para conceder permissões e instalar o driver Tesla.

Nota
Se estiver usando um driver Tesla em outro formato, como .deb ou .rpm, consulte o Guia de instalação do NVIDIA CUDA para Linux para obter instruções de instalação.
```
sudo chmod +x NVIDIA-Linux-x86_64-xxxx.run
```
```
sudo sh NVIDIA-Linux-x86_64-xxxx.run
```

Execute o comando a seguir para verificar a instalação.

nvidia-smi

Se a saída for semelhante à seguinte, o driver Tesla está instalado.

[ecs-use xxx 9sgg1tZ ~]$ nvidia-smi
Tue Sep 10 13:58:31 2024
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.161.03    Driver Version: 470.161.03    CUDA Version: 11.4  |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA A10          Off  | 00000000:00:07.0 Off |                    0 |
|  0%   34C    P0    62W / 150W |      0MiB / 22731MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

(Opcional) Ative o Persistence Mode usando o NVIDIA Persistence Daemon.

Após a instalação do driver Tesla, o Persistence Mode fica desativado (off) por padrão. O driver Tesla opera com maior estabilidade quando o Persistence Mode está ativado. Para garantir a estabilidade do service, recomendamos ativar o Persistence Mode usando o NVIDIA Persistence Daemon. Para mais informações, consulte Persistence Daemon.

Nota

O Persistence Mode é uma propriedade configurável pelo usuário que mantém a GPU alvo inicializada mesmo sem clientes conectados.
Ativar o Persistence Mode usando nvidia-smi -pm 1 causa problemas, como a perda da configuração após a reinicialização da instância. Para mais informações, consulte Persistence Mode fails to persist, and ECC status or MIG feature settings also fail after a GPU instance is restarted. Recomendamos ativar o Persistence Mode usando o NVIDIA Persistence Daemon.

Execute o comando a seguir para iniciar o NVIDIA Persistence Daemon.

sudo nvidia-persistenced --user username 
# Replace username with your username.

Execute o comando a seguir para verificar o status do Persistence Mode.

nvidia-smi

A mensagem retornada indica que o Persistence-M está no estado ativado (on).

[ecs-usexxx2q9sgg1tZ ~]$ sudo nvidia-persistenced --user ecs-user
[ecs-usexxx2q9sgg1tZ ~]$ nvidia-smi
Tue Sep 10 14:02:16 2024
+-------------------------------+----------------------+----------------------+
| NVIDIA-SMI 470.161.03   Driver Version: 470.161.03   CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA A10          On   | 00000000:00:07.0 Off |                    0 |
|  0%   33C    P8     8W / 150W |      0MiB / 22731MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

(Opcional) Configure o Persistence Mode para ativar na reinicialização do sistema.

Se o sistema for reiniciado, o estado ativado (on) do Persistence Mode será perdido. Execute as operações a seguir para reativar o Persistence Mode.

O pacote de instalação do driver Tesla instala scripts da NVIDIA, como scripts de exemplo e scripts de instalação, em /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

Execute os comandos a seguir para descompactar e instalar os scripts da NVIDIA.

cd  /usr/share/doc/NVIDIA_GLX-1.0/samples/
sudo tar xf nvidia-persistenced-init.tar.bz2
cd  nvidia-persistenced-init
sudo sh install.sh

Execute o comando a seguir para verificar se o NVIDIA Persistence Daemon está em execução.

sudo systemctl status nvidia-persistenced

Se a saída for semelhante à seguinte, o NVIDIA Persistence Daemon está em execução.

[ecs-user@xxx nvidia-persistenced-init]$ sudo systemctl status nvidia-persistenced
● nvidia-persistenced.service - NVIDIA Persistence Daemon
   Loaded: loaded (/usr/lib/systemd/system/nvidia-persistenced.service; enabled; vendor preset: disabled)
   Active: active (running) since Tue 2024-09-10 14:13:20 CST; 40s ago
  Process: 13882 ExecStart=/usr/bin/nvidia-persistenced --user nvidia-persistenced (code=exited, status=0/SUCCESS)
 Main PID: 13883 (nvidia-persiste)
    Tasks: 1 (limit: 383833)
   Memory: 196.0K
   CGroup: /system.slice/nvidia-persistenced.service
           └─13883 /usr/bin/nvidia-persistenced --user nvidia-persistenced
Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Starting NVIDIA Persistence Daemon...
Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ nvidia-persistenced[13883]: Started (13883)
Sep 10 14:13:20 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Started NVIDIA Persistence Daemon.

Nota

Adapte o script de instalação do NVIDIA Persistence Daemon ao seu sistema operacional para garantir o funcionamento correto.

Execute o comando a seguir para verificar se o Persistence Mode está definido como on.
```
nvidia-smi
```
(Opcional) Execute os comandos a seguir para parar o NVIDIA Persistence Daemon.

Desative o NVIDIA Persistence Daemon se ele não for mais necessário.
```
sudo systemctl stop nvidia-persistenced
sudo systemctl disable nvidia-persistenced
```

(Condicionalmente obrigatório) Se sua instância pertencer à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , instale o service nvidia-fabricmanager correspondente à versão do seu driver.

Importante

Se a instância pertencer à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , não será possível usar a instância GPU sem o service nvidia-fabricmanager compatível com a versão do driver instalado.
Caso sua instância GPU não pertença à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , pule esta etapa.

Instale o service nvidia-fabricmanager.

Instale o service nvidia-fabricmanager a partir do source ou de um pacote de instalação. Os comandos de exemplo a seguir usam CentOS 7.x e CentOS 8.x como sistemas operacionais e a versão do driver 460.91.03 como exemplo. Nos comandos, substitua driver_version pelo número da versão do driver baixado na Etapa 1: Baixar o driver NVIDIA Tesla.

Source code

CentOS 7.x

driver_version=460.91.03
sudo yum -y install yum-utils
sudo yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel7/x86_64/cuda-rhel7.repo
sudo yum install -y nvidia-fabric-manager-${driver_version}-1

CentOS 8.x

driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=rhel8
ARCH=$( /bin/arch )
sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/$distribution/${ARCH}/cuda-$distribution.repo
sudo dnf module enable -y nvidia-driver:${driver_version_main}
sudo dnf install -y nvidia-fabric-manager-0:${driver_version}-1

Installation package

CentOS 7.x

driver_version=460.91.03
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/rhel7/x86_64/nvidia-fabric-manager-${driver_version}-1.x86_64.rpm
sudo rpm -ivh nvidia-fabric-manager-${driver_version}-1.x86_64.rpm

CentOS 8.x

driver_version=460.91.03
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/nvidia-fabric-manager-${driver_version}-1.x86_64.rpm
sudo rpm -ivh nvidia-fabric-manager-${driver_version}-1.x86_64.rpm

Execute os comandos a seguir para iniciar o service nvidia-fabricmanager.

sudo systemctl enable nvidia-fabricmanager
sudo systemctl start nvidia-fabricmanager

Execute o comando a seguir para verificar o status do service nvidia-fabricmanager.

systemctl status nvidia-fabricmanager

Se a saída a seguir for retornada, o service nvidia-fabricmanager está em execução.

nvidia-fabricmanager.service - NVIDIA fabric manager service
   Loaded: loaded (/lib/systemd/system/nvidia-fabricmanager.service; enabled; vendor preset: enabled)
   Active: active (running) since Mon 2021-09-13 19:14:45 CST; 1 weeks 1 days ago
  Process: 1928 ExecStart=/usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg (code=exited, status=0/SUCCESS)
 Main PID: 2140 (nv-fabricmanage)
    Tasks: 18 (limit: 19660)
   CGroup: /system.slice/nvidia-fabricmanager.service
           └─2140 /usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg
Sep 13 19:14:26 xxx systemd[1]: Starting NVIDIA fabric manager service...
Sep 13 19:14:45 xxx nv-fabricmanager[2140]: Successfully configured all the available GPUs and NVSwitches.
Sep 13 19:14:45 xxx systemd[1]: Started NVIDIA fabric manager service.

Ubuntu e outros

Conceda permissões e instale o driver Tesla.

Para sistemas operacionais Linux de 64 bits, recomendamos usar o driver Tesla no formato .run, como NVIDIA-Linux-x86_64-xxxx.run. Execute os comandos a seguir para conceder permissões e instalar o driver Tesla.

Nota
Se estiver usando um driver Tesla em outro formato, como .deb ou .rpm, consulte o Guia de instalação do NVIDIA CUDA para Linux para obter instruções de instalação.
```
sudo chmod +x NVIDIA-Linux-x86_64-xxxx.run
```
```
sudo sh NVIDIA-Linux-x86_64-xxxx.run
```

Execute o comando a seguir para verificar a instalação.

nvidia-smi

Se a saída for semelhante à seguinte, o driver Tesla está instalado.

[ecs-use xxx 9sgg1tZ ~]$ nvidia-smi
Tue Sep 10 13:58:31 2024
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.161.03    Driver Version: 470.161.03    CUDA Version: 11.4  |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA A10          Off  | 00000000:00:07.0 Off |                    0 |
|  0%   34C    P0    62W / 150W |      0MiB / 22731MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

(Opcional) Ative o Persistence Mode usando o NVIDIA Persistence Daemon.

Nota

O Persistence Mode é uma propriedade configurável pelo usuário que mantém a GPU alvo inicializada mesmo sem clientes conectados.
Ativar o Persistence Mode usando nvidia-smi -pm 1 causa problemas, como a perda da configuração após a reinicialização da instância. Para mais informações, consulte Persistence Mode fails to persist, and ECC status or MIG feature settings also fail after a GPU instance is restarted. Recomendamos ativar o Persistence Mode usando o NVIDIA Persistence Daemon.

Execute o comando a seguir para iniciar o NVIDIA Persistence Daemon.

sudo nvidia-persistenced --user username 
# Replace username with your username.

Execute o comando a seguir para verificar o status do Persistence Mode.

nvidia-smi

A mensagem retornada indica que o Persistence-M está no estado ativado (on).

[ecs-usexxx2q9sgg1tZ ~]$ sudo nvidia-persistenced --user ecs-user
[ecs-usexxx2q9sgg1tZ ~]$ nvidia-smi
Tue Sep 10 14:02:16 2024
+-------------------------------+----------------------+----------------------+
| NVIDIA-SMI 470.161.03   Driver Version: 470.161.03   CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA A10          On   | 00000000:00:07.0 Off |                    0 |
|  0%   33C    P8     8W / 150W |      0MiB / 22731MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

(Opcional) Configure o Persistence Mode para ativar na reinicialização do sistema.

Se o sistema for reiniciado, o estado ativado (on) do Persistence Mode será perdido. Execute as operações a seguir para reativar o Persistence Mode.

O pacote de instalação do driver Tesla instala scripts da NVIDIA, como scripts de exemplo e scripts de instalação, em /usr/share/doc/NVIDIA_GLX-1.0/samples/nvidia-persistenced-init.tar.bz2.

Execute os comandos a seguir para descompactar e instalar os scripts da NVIDIA.

cd  /usr/share/doc/NVIDIA_GLX-1.0/samples/
sudo tar xf nvidia-persistenced-init.tar.bz2
cd  nvidia-persistenced-init
sudo sh install.sh

Execute o comando a seguir para verificar se o NVIDIA Persistence Daemon está em execução.

sudo systemctl status nvidia-persistenced

Se a saída for semelhante à seguinte, o NVIDIA Persistence Daemon está em execução.

[ecs-user@xxx nvidia-persistenced-init]$ sudo systemctl status nvidia-persistenced
● nvidia-persistenced.service - NVIDIA Persistence Daemon
   Loaded: loaded (/usr/lib/systemd/system/nvidia-persistenced.service; enabled; vendor preset: disabled)
   Active: active (running) since Tue 2024-09-10 14:13:20 CST; 40s ago
  Process: 13882 ExecStart=/usr/bin/nvidia-persistenced --user nvidia-persistenced (code=exited, status=0/SUCCESS)
 Main PID: 13883 (nvidia-persiste)
    Tasks: 1 (limit: 383833)
   Memory: 196.0K
   CGroup: /system.slice/nvidia-persistenced.service
           └─13883 /usr/bin/nvidia-persistenced --user nvidia-persistenced
Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Starting NVIDIA Persistence Daemon...
Sep 10 14:13:19 iZbp13orbqqx6m2q9sgg1tZ nvidia-persistenced[13883]: Started (13883)
Sep 10 14:13:20 iZbp13orbqqx6m2q9sgg1tZ systemd[1]: Started NVIDIA Persistence Daemon.

Nota

Adapte o script de instalação do NVIDIA Persistence Daemon ao seu sistema operacional para garantir o funcionamento correto.

Execute o comando a seguir para verificar se o Persistence Mode está definido como on.
```
nvidia-smi
```
(Opcional) Execute os comandos a seguir para parar o NVIDIA Persistence Daemon.

Desative o NVIDIA Persistence Daemon se ele não for mais necessário.
```
sudo systemctl stop nvidia-persistenced
sudo systemctl disable nvidia-persistenced
```

(Condicionalmente obrigatório) Se sua instância pertencer à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , instale o service nvidia-fabricmanager correspondente à versão do seu driver.

Importante

Se a instância pertencer à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , não será possível usar a instância GPU sem o service nvidia-fabricmanager compatível com a versão do driver instalado.
Caso sua instância GPU não pertença à família de instâncias ebmgn8v, ebmgn7 ou ebmgn7e , pule esta etapa.

Instale o service nvidia-fabricmanager.

Instale o service nvidia-fabricmanager a partir do source ou de um pacote de instalação. Os exemplos de comando a seguir são para o sistema operacional Ubuntu 16.04, Ubuntu 18.04, Ubuntu 20.04, Ubuntu 22.04 ou Ubuntu 24.04. Nos comandos, substitua driver_version pela versão do driver baixada na Etapa 1: Baixar o driver NVIDIA Tesla.

Importante

No Ubuntu 22.04, o service nvidia-fabricmanager requer uma versão do driver Tesla posterior a 515.48.07. O exemplo a seguir para Ubuntu 22.04 usa a versão do driver 535.154.05.
No Ubuntu 24.04, o service nvidia-fabricmanager requer uma versão do driver Tesla posterior a 550.90.07. O exemplo a seguir para Ubuntu 24.04 usa a versão do driver 570.133.20.

Source code

Ubuntu 16.04, Ubuntu 18.04 ou Ubuntu 20.04

driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
sudo apt-get update
sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

Ubuntu 22.04

driver_version=535.154.05
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
sudo apt-get update
sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

Ubuntu 24.04

driver_version=570.133.20
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-$distribution.pin
sudo mv cuda-$distribution.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo wget -qO - https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/3bf863cc.pub | sudo apt-key add -
sudo echo "deb https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | tee /etc/apt/sources.list.d/cuda.list
sudo apt-get update
sudo apt-get -y install nvidia-fabricmanager-${driver_version_main}=${driver_version}-*

Installation package

Ubuntu 16.04

driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

Ubuntu 18.04

driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

Ubuntu 20.04

driver_version=460.91.03
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

Ubuntu 22.04

driver_version=535.154.05 
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

Ubuntu 24.04

driver_version=570.133.20 
driver_version_main=$(echo $driver_version | awk -F '.' '{print $1}')
sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb
sudo dpkg -i nvidia-fabricmanager-${driver_version_main}_${driver_version}-1_amd64.deb

Execute os comandos a seguir para iniciar o service nvidia-fabricmanager.

sudo systemctl enable nvidia-fabricmanager
sudo systemctl start nvidia-fabricmanager

Execute o comando a seguir para verificar o status do service nvidia-fabricmanager.

systemctl status nvidia-fabricmanager

Se a saída a seguir for retornada, o service nvidia-fabricmanager está em execução.

nvidia-fabricmanager.service - NVIDIA fabric manager service
   Loaded: loaded (/lib/systemd/system/nvidia-fabricmanager.service; enabled; vendor preset: enabled)
   Active: active (running) since Mon 2021-09-13 19:14:45 CST; 1 weeks 1 days ago
  Process: 1928 ExecStart=/usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg (code=exited, status=0/SUCCESS)
 Main PID: 2140 (nv-fabricmanage)
    Tasks: 18 (limit: 19660)
   CGroup: /system.slice/nvidia-fabricmanager.service
           └─2140 /usr/bin/nv-fabricmanager -c /usr/share/nvidia/nvswitch/fabricmanager.cfg
Sep 13 19:14:26 xxx systemd[1]: Starting NVIDIA fabric manager service...
Sep 13 19:14:45 xxx nv-fabricmanager[2140]: Successfully configured all the available GPUs and NVSwitches.
Sep 13 19:14:45 xxx systemd[1]: Started NVIDIA fabric manager service.

Nota

A versão do pacote nvidia-fabricmanager deve corresponder à versão do driver Tesla para garantir o funcionamento correto da GPU. No Ubuntu, se você instalar o service nvidia-fabricmanager usando um pacote de instalação, o service apt-daily pode atualizar automaticamente o pacote nvidia-fabricmanager. Isso pode causar incompatibilidade de versão com o driver Tesla, impedindo o início do service nvidia-fabricmanager e tornando a GPU inutilizável. Para resolver esse problema, consulte The GPU does not work as expected because the nvidia-fabricmanager version is different from the Tesla driver version.

Referências

Se você adquiriu uma instância otimizada para computação com aceleração por GPU que executa Windows, instale o driver Tesla para usar a instância em cargas de trabalho de computação de uso geral, como deep learning e IA. Para mais informações, consulte Manually install the Tesla driver on a GPU-accelerated compute-optimized instance (Windows).
Para instalar o driver Tesla durante a criação de uma instância GPU, consulte Automatically install or load the Tesla driver when creating a GPU instance.
Caso precise desinstalar o driver Tesla atual por qualquer motivo, consulte Uninstall the Tesla driver.
Se a versão do driver instalado não for adequada para sua carga de trabalho, ou se você instalou um tipo ou versão incorreta do driver e a instância GPU tornou-se inutilizável, desinstale o driver atual e instale um novo, ou atualize o driver diretamente. Para obter informações sobre como atualizar o driver, consulte Upgrade the NVIDIA driver.