Uma reserva de capacidade GPU-HPN para um cluster ACS reserva recursos de computação GPU que suportam High-Performance Network (HPN). Ao associar uma reserva de capacidade GPU-HPN a um nó virtual, você pode usar o agendamento baseado em afinidade para cargas de trabalho de contêineres GPU, garantindo a utilização eficiente dos recursos.
Informações básicas
O ACS gera o Virtual Node padrão com base nos vSwitchIds do ConfigMap acs-profile e não consome recursos de computação por conta própria.
Reserva de capacidade GPU-HPN
As reservas de capacidade GPU-HPN estão disponíveis apenas por meio de assinaturas. Depois que você ative, os recursos ficam garantidos durante todo o período da assinatura. Se você reservar várias instâncias, poderá associá-las a vários clusters simultaneamente. Os nós reservados suportam instâncias de Pod de diferentes quantidades e especificações. Por exemplo, em cenários que exigem HPN para comunicação GPU distribuída, como treinamento ou ajuste fino de modelos grandes, os Pods consomem uma reserva de capacidade GPU-HPN com base no número de GPU inteiras especificadas no Pod, sem restrições quanto ao tamanho da CPU ou da memória.
Faturamento e limitações
As reservas de capacidade são faturadas de acordo com o seu plano de assinatura.
O faturamento começa quando você crie a reserva com sucesso e seu status se torna ativo.
O faturamento é interrompido após a expiração da reserva e a liberação automática dos recursos.
Ative a GPU-HPN Capacity Reservation, envie um ticket.
Um ACS Cluster aceita a aplicação de uma reserva para compensar custos apenas para o mesmo tipo de recurso GPU. Se você comprar uma reserva para um modelo de GPU, não poderá aplicá-la a um modelo diferente. Nesse caso, o ACS cobrará a tarifa padrão pelo tipo de GPU realmente utilizado.
Apenas Pods onde você defina o tipo de computação como GPU de rede de alta performance (
gpu-hpn) podem usar nós de uma GPU-HPN Capacity Reservation.
Crie uma reserva de capacidade GPU-HPN
Faça login no console do ACS. No painel de navegação à esquerda, escolha Capacity Reservations.
-
Na página Capacity Reservations, clique em Create GPU-HPN resource reservation e configure os seguintes parâmetros.
Parâmetro
Descrição
Region
Selecione a região para a reserva de capacidade.
Zone
Selecione a zona para a reserva de capacidade.
Type
Atualmente, apenas instance é suportado.
Category
Atualmente, apenas GPU é suportado.
HPN zone
Selecione a zona HPN para a reserva de capacidade.
Instance type
As opções disponíveis variam de acordo com a exibição do console.
Subscription duration
1 mês, 1 ano ou 3 anos.
Down payment ratio (%)
É necessária uma entrada de 0%. Você pode usar os recursos imediatamente após a compra.
Discount
Os descontos variam de acordo com a duração da assinatura. Uma assinatura de 1 mês não tem desconto. Uma assinatura de 1 ano tem um desconto de pré-pagamento de 12 meses. Uma assinatura de 3 anos tem um desconto de pré-pagamento de 36 meses.
Billing cycle
Monthly.
Number of installments
Depende da duração da assinatura. Por exemplo, uma assinatura de 1 mês é paga em 1 parcela, e uma assinatura de 1 ano é paga em 12 parcelas.
Quantity
O número de instâncias a serem reservadas.
Configure os parâmetros e clique em Buy Now. Na página de confirmação do pedido, clique em Proceed to Payment. Na página de pagamento, clique em Subscribe para concluir a compra.
Associar um cluster
Faça login no console do ACS. No painel de navegação à esquerda, escolha Capacity Reservations.
-
Na página Capacity Reservations, encontre a reserva a ser associada e clique em Associate Cluster abaixo de seu status.
ImportanteVocê só pode associar reservas a um ACS Cluster, ACK Managed Cluster, ACK One Registered Cluster ou ACK One Distributed Workflow Argo Cluster. Outros tipos de cluster não são suportados.
-
Na caixa de diálogo Resource Association, selecione ou insira o ID do cluster e especifique o número de instâncias. Em seguida, clique em OK.
ImportanteNa caixa de diálogo Resource Association, a lista suspensa de clusters exibe apenas os ID de ACS Clusters e ACK Managed Clusters. Para um ACK One Registered Cluster ou ACK One Distributed Workflow Argo Cluster, insira o ID do cluster manualmente.
Consultar recursos alocados
Uma reserva de capacidade GPU-HPN é representada como um nó do Kubernetes no cluster. Use o kubectl e visualize os recursos alocados no nó.
-
Execute o seguinte comando e visualize os nós GPU-HPN por rótulo:
kubectl get node -l alibabacloud.com/node-type=reservedSaída esperada:
NAME STATUS ROLES AGE VERSION cn-wulanchabu-c.cr-rkccqmu0xz8rea1***** Ready agent 20m v1.28.3-aliyun -
Execute o seguinte comando para consultar os recursos alocados da GPU-HPN Capacity Reservation. Substitua o nome do nó no comando pelo nome real do nó GPU-HPN obtido na etapa anterior.
kubectl describe node cn-wulanchabu-c.cr-rkccqmu0xz8rea1***** | grep Allocated -A 10Saída esperada:
Allocated resources: (Total limits may be over 100 percent, i.e., overcommitted.) Resource Requests Limits -------- -------- ------ cpu 16 (8%) 16 (8%) memory 128Gi (7%) 128Gi (7%) ephemeral-storage 30Gi (0%) 30Gi (0%) nvidia.com/gpu 1 1 Events: <none>As linhas 5 a 8 mostram as quantidades alocadas e a utilização para CPU, memória, ephemeral-storage e GPU, respectivamente.