Add GPU nodes to a cluster - Container Service for Kubernetes: Central de Documentação do Alibaba Cloud

Container Service for Kubernetes As GPUs NVIDIA do Container Service for Kubernetes aceleram cargas de trabalho com uso intensivo de computação, como computação científica e renderização de gráficos. O Container Service for Kubernetes oferece agendamento unificado e O&M para recursos de GPU otimizados para computação de vários modelos, melhorando a utilização do cluster de GPU. Este tópico explica como adicionar nós de GPU a um cluster.

Pré-requisitos

Um ACK Pro cluster ou ACK dedicated cluster (no longer available for creation) foi criado.

Crie um pool de nós de GPU

Faça logon no ACK console. No painel de navegação à esquerda, clique em Clusters.
Na página Clusters, clique no nome do seu cluster. No painel de navegação à esquerda, clique em Nodes > Node Pools.
Clique em Create Node Pool. Defina Instance Type como Elastic GPU Service e Expected Nodes com a quantidade desejada. Consulte crie e gerencie um pool de nós para outros parâmetros.

Consulte GPU instance types supported by ACK.
Nota
- Se nenhum tipo de instância estiver disponível, selecione um vSwitch diferente.
- Em nós Ubuntu 22.04 ou RHEL 9.3 de 64 bits, o NVIDIA Device Plugin define NVIDIA_VISIBLE_DEVICES=all para pods por padrão. A execução de systemctl daemon-reload ou systemctl daemon-reexec no nó pode causar perda de acesso ao dispositivo GPU, interrompendo o NVIDIA Device Plugin. Consulte O que faço se o erro "Failed to initialize NVML: Unknown Error" ocorrer quando eu execute um contêiner GPU?.

Visualize dispositivos GPU conectados

Após criar o pool de nós, visualize os dispositivos de GPU conectados a cada nó.

Faça logon no ACK console. No painel de navegação à esquerda, clique em Clusters.
Na página Clusters, clique no nome do seu cluster. No painel de navegação à esquerda, clique em Nodes > Nodes.
Clique em Details na coluna Actions para visualizar os dispositivos de GPU conectados. Para encontrar o modelo da GPU, clique no ID da instância ECS para abrir a página de detalhes da instância. Na aba Instance Details, verifique o campo GPU em Configuration Information. Por exemplo, GPU: NVIDIA T4 para ecs.gn6i-c4g1.xlarge.