Container Service for Kubernetes:Gerencie o componente de compartilhamento de GPU

Pré-requisitos

• Antes de usar o compartilhamento de GPU, ative o {{XREF_0}}. Para obter detalhes sobre faturamento, consulte {{XREF_1}}.

• Para ver observações sobre o uso do cGPU, consulte {{XREF_2}}.

• Um {{XREF_3}} foi criado e a arquitetura do tipo de instância está definida como servidor em nuvem com GPU.

Limitações

• O recurso de isolamento de memória do cGPU é compatível apenas com nós do Alibaba Cloud Elastic Compute Service (ECS). Não adicione o rótulo ack.node.gpu.schedule=cgpu ou ack.node.gpu.schedule=core_mem a nós que não sejam do Alibaba Cloud ECS.

• Não defina a política de CPU como static para nós que usam compartilhamento de GPU.

• Caso precise especificar um caminho personalizado para o arquivo KubeConfig, execute o comando export KUBECONFIG=<kubeconfig>. O comando kubectl inspect cgpu não é compatível com o parâmetro --kubeconfig.

• Como o isolamento do cGPU não é compatível com a Unified Virtual Memory (UVM), você não pode chamar cudaMallocManaged() para alocar memória da GPU. Em vez disso, chame cudaMalloc(). Para mais informações, consulte a documentação da NVIDIA.

• Os pods do DaemonSet de compartilhamento de GPU não têm a prioridade mais alta em um nó, portanto, outros pods com prioridade maior podem preemptar seus recursos e causar a evicção. Para evitar isso, modifique o DaemonSet em uso, como o gpushare-device-plugin-ds para memória de GPU compartilhada, e adicione priorityClassName: system-node-critical para garantir alta prioridade.

• Por motivos de desempenho, uma única placa de GPU aceita no máximo 20 pods ao usar o cGPU. Se esse limite for excedido, os pods subsequentes agendados para essa placa não serão executados e retornarão a mensagem de erro Error occurs when creating cGPU instance: unknown.

  Para impedir que o agendador continue agendando pods do cGPU em nós onde uma única placa já atingiu o limite de 20 pods, execute o comando a seguir para adicionar um rótulo ao nó:

  NAME                       IPADDRESS      GPU0(Allocated/Total)  GPU Memory(GiB)
  cn-shanghai.192.168.6.104  192.168.6.104  0/15                   0/15
  ----------------------------------------------------------------------
  Allocated/Total GPU Memory In Cluster:
  0/15 (0%)

  O valor 20 é fixo e não pode ser alterado para outros valores.

• O componente de compartilhamento de GPU pode ser instalado em qualquer região. No entanto, o recurso de isolamento de memória da GPU está disponível apenas nas regiões a seguir. Certifique-se de que seu cluster esteja em uma dessas regiões.

  Regiões

  Região	ID da região
  China (Beijing)	cn-beijing
  China (Shanghai)	cn-shanghai
  China (Hangzhou)	cn-hangzhou
  China (Zhangjiakou)	cn-zhangjiakou
  China (Wulanchabu)	cn-wulanchabu
  China (Shenzhen)	cn-shenzhen
  China (Chengdu)	cn-chengdu
  China (Heyuan)	cn-heyuan
  China (Hong Kong)	cn-hongkong
  Japan (Tokyo)	ap-northeast-1
  Indonesia (Jakarta)	ap-southeast-5
  Singapore	ap-southeast-1
  US (Virginia)	us-east-1
  US (Silicon Valley)	us-west-1
  Germany (Frankfurt)	eu-central-1

• Compatibilidade de versões.

  Item	Versões compatíveis
  Versão do Kubernetes	As versões do {{XREF_4}} anteriores à 1.12.0 são compatíveis com clusters que executam o Kubernetes 1.18.8 ou posterior. O {{XREF_5}} 1.12.0 ou posterior é compatível apenas com clusters que executam o Kubernetes 1.20 ou posterior.
  Versão do driver NVIDIA	418.87.01 ou posterior
  Versão do runtime de contêineres	Docker: 19.03.5 ou posterior containerd: 1.4.3 ou posterior
  Sistema operacional	Alibaba Cloud Linux 3.x (a edição otimizada para contêineres requer o {{XREF_6}} v1.12.6 ou posterior), Alibaba Cloud Linux 2.x, CentOS 7.6, CentOS 7.7, CentOS 7.9, Ubuntu 22.04
  GPUs compatíveis	Séries P, T, V, A e H

Instale o componente de compartilhamento de GPU

Atualize o componente de compartilhamento de GPU