GPU-HPN Capacity Reservation - Container Compute Service: Central de Documentação do Alibaba Cloud

Uma reserva de capacidade GPU-HPN para um cluster ACS garante recursos de computação GPU compatíveis com High-Performance Network (HPN). Ao associar essa reserva a um nó virtual, você pode usar o agendamento baseado em afinidade para workloads de contêineres GPU e assegurar o uso eficiente dos recursos.

Informações básicas

O ACS gera o Virtual Node padrão com base nos vSwitchIds definidos no ConfigMap acs-profile. Esse nó não consome recursos de computação por si só.

Reserva de capacidade GPU-HPN

As reservas de capacidade GPU-HPN estão disponíveis apenas mediante assinatura. Após a ativação, os recursos ficam garantidos durante todo o período da assinatura. Se você reservar várias instâncias, poderá associá-las simultaneamente a vários clusters. Os nós reservados suportam instâncias de Pod com diferentes quantidades e especificações. Por exemplo, em cenários que exigem HPN para comunicação distribuída de GPU, como treinamento ou ajuste fino de modelos grandes, os Pods consomem a reserva de capacidade GPU-HPN conforme o número total de GPUs especificado no Pod, sem restrições quanto à quantidade de CPU ou memória.

Faturamento e limitações

O faturamento das reservas de capacidade segue o seu plano de assinatura.

A cobrança começa quando a reserva é criada com sucesso e seu status se torna ativo.

O faturamento cessa após a expiração da reserva e a liberação automática dos recursos.

Importante

Para ative a GPU-HPN Capacity Reservation, envie um ticket.
Um ACS Cluster aceita a aplicação de reservas apenas para compensar custos do mesmo tipo de recurso GPU. Se você adquirir uma reserva para um modelo de GPU, não poderá aplicá-la a um modelo diferente. Nesse caso, o ACS cobrará a tarifa padrão correspondente ao tipo de GPU efetivamente utilizado.
Somente Pods com o tipo de computação defina como GPU de rede de alto desempenho (gpu-hpn) podem utilizar nós provenientes de uma GPU-HPN Capacity Reservation.

Crie uma reserva de capacidade GPU-HPN

Faça login no console do ACS. No painel de navegação à esquerda, escolha Capacity Reservation.

Na página Capacity Reservations, clique em Create GPU-HPN resource reservation e configure os parâmetros a seguir.

Parâmetro	Descrição
Region	Selecione a região da reserva de capacidade.
Zone	Selecione a zona da reserva de capacidade.
Type	Atualmente, apenas instance é suportado.
Category	Atualmente, apenas GPU é suportado.
HPN zone	Selecione a zona HPN da reserva de capacidade.
Instance type	As opções variam conforme a exibição do console.
Subscription duration	1 mês, 1 ano ou 3 anos.
Down payment ratio (%)	Pagamento inicial de 0%. Os recursos ficam disponíveis imediatamente após a compra.
Discount	Os descontos variam conforme a duração da assinatura. Assinaturas de 1 mês não têm desconto. Assinaturas de 1 ano oferecem desconto pré-pago de 12 meses. Assinaturas de 3 anos oferecem desconto pré-pago de 36 meses.
Billing cycle	Mensal.
Number of installments	Depende da duração da assinatura. Por exemplo, uma assinatura de 1 mês é paga em 1 parcela, e uma assinatura de 1 ano é paga em 12 parcelas.
Quantity	Número de instâncias a reservar.

Após configure os parâmetros, clique em Buy Now. Na página de confirmação do pedido, clique em Proceed to Payment. Na página de pagamento, clique em Subscribe para concluir a compra.

Associar um cluster

Faça login no console do ACS. No painel de navegação à esquerda, escolha Capacity Reservation.
Na página Capacity Reservations, localize a reserva desejada e clique em Associate Cluster, abaixo do status.

Importante
Você só pode associar reservas a um ACS Cluster, ACK Managed Cluster, ACK One Registered Cluster ou ACK One Distributed Workflow Argo Cluster. Outros tipos de cluster não são suportados.
Na caixa de diálogo Resource Association, selecione ou insira o ID do cluster e especifique o número de instâncias. Em seguida, clique em OK.

Importante
Na caixa de diálogo Resource Association, a lista suspensa de clusters exibe apenas os IDs de ACS Clusters e ACK Managed Clusters. Para um ACK One Registered Cluster ou ACK One Distributed Workflow Argo Cluster, insira o ID do cluster manualmente.

Visualize recursos alocados

Uma reserva de capacidade GPU-HPN é representada como um nó Kubernetes no cluster. Use o kubectl para visualize os recursos alocados nesse nó.

Execute o comando a seguir para visualize os nós GPU-HPN por rótulo:

kubectl get node -l alibabacloud.com/node-type=reserved

Saída esperada:

NAME                                      STATUS   ROLES   AGE   VERSION
cn-wulanchabu-c.cr-rkccqmu0xz8rea1*****   Ready    agent   20m   v1.28.3-aliyun

Execute o comando a seguir para consultar os recursos alocados da GPU-HPN Capacity Reservation. Substitua o nome do nó no comando pelo nome real do nó GPU-HPN obtido na etapa anterior.

kubectl describe node cn-wulanchabu-c.cr-rkccqmu0xz8rea1***** | grep Allocated -A 10

Saída esperada:

Allocated resources:
  (Total limits may be over 100 percent, i.e., overcommitted.)
  Resource              Requests    Limits
  --------              --------    ------
  cpu                   16 (8%)     16 (8%)
  memory                128Gi (7%)  128Gi (7%)
  ephemeral-storage     30Gi (0%)   30Gi (0%)
  nvidia.com/gpu        1           1
Events:                 <none>

As linhas 5 a 8 mostram, respectivamente, as quantidades alocadas e a utilização de CPU, memória, ephemeral-storage e GPUs.