Container Compute Service:Visão geral de GPU do ACS

Fluxo de trabalho típico de GPU no ACS

O ACS fornece uma solução altamente elástica e econômica para cargas de trabalho de IA, abrangendo todo o ciclo de vida, desde o pré-processamento de dados e treinamento de modelos até a implantação de inferência. Ele combina o uso sob demanda e os recursos de dimensionamento automático de uma arquitetura serverless com poderosos recursos de computação GPU, permitindo que desenvolvedores e cientistas de dados se concentrem na lógica de negócios e na inovação de algoritmos, em vez do gerenciamento de recursos subjacentes.

1. Estágio de pré-processamento de dados: Para tarefas que envolvem limpeza, transformação e aumento de grandes conjuntos de dados, utilize o poder de processamento paralelo de CPUs serverless. Inicie um grande número de instâncias de CPU sob demanda para acelerar a computação. Após a conclusão das tarefas, os recursos são liberados imediatamente, evitando custos por tempo ocioso. Essa abordagem é altamente eficiente para processamento em lote de dados periódico ou com picos de demanda, reduzindo significativamente os ciclos de preparação de dados.

2. Estágio de treinamento de modelos: Durante a fase de treinamento de modelos com uso intensivo de computação, as GPUs serverless permitem selecionar flexivelmente instâncias de GPU com as especificações necessárias, com base no tamanho do modelo e nos requisitos de velocidade de convergência. O faturamento ocorre pela duração exata dos jobs de treinamento, com precisão de segundos. Isso elimina o custo de servidores GPU ociosos, comum em configurações tradicionais, sendo ideal para ajustes experimentais e treinamentos iterativos.

   Para garantir previsibilidade de recursos e flexibilidade nas cargas de trabalho de treinamento de modelos, use uma reserva de capacidade GPU-HPN.

3. Estágio de implantação de inferência: Após treinar um modelo, implante-o perfeitamente como um serviço de inferência online. A arquitetura serverless do ACS dimensiona automaticamente as instâncias de GPU em segundos, com base no tráfego de solicitações em tempo real, podendo inclusive reduzir as instâncias a zero. Assim, não há custos de recursos quando não existe tráfego. Essa elasticidade extrema é ideal para aplicações de IA com padrões de tráfego altamente variáveis ou intermitentes, como reconhecimento de imagem e processamento de linguagem natural, garantindo alta disponibilidade do serviço e maximizando a economia de custos.

Com as GPUs serverless do ACS, você gerencie eficientemente todo o fluxo de trabalho de IA em uma única plataforma, otimizando a alocação de recursos e os custos para acelerar o desenvolvimento e a implantação de suas aplicações de IA.

Tipos de GPU suportados

Para obter mais informações sobre as especificações de GPU, consulte Famílias de instâncias de GPU suportadas pelo ACS.

Zonas de disponibilidade de GPU

Reserva de capacidade de GPU do ACS

• Reserva de capacidade de pod de GPU

• Reserva de capacidade GPU-HPN

Tipos de cluster habilitados para GPU do ACS

• Usar GPU do ACS em clusters ACK

• Usar GPU do ACS em clusters registrados do ACK One

Agendamento de recursos de GPU do ACS

• Agendamento com reconhecimento de topologia GPU-HPN

• Usar compartilhamento e agendamento de GPU em nós GPU-HPN

Monitoramento de GPU do ACS

• Métricas de monitoramento de pods de GPU do ACS

• Métricas de monitoramento no nível de nó GPU-HPN do ACS

Solução de problemas de GPU do ACS

Monitorar e recuperar falhas em nós GPU-HPN