Destaques da solução

Isolamento eficiente de memória da GPU

Maximize a utilização da GPU e evite conflitos de memória segmentando os recursos de memória e computação de uma GPU e gerenciando-os como múltiplos contêineres, com base na tecnologia de isolamento de GPU virtual do kernel do host da Alibaba Cloud

Compartilhamento e agendamento flexível de recursos de GPU

Aloque os recursos de memória e computação das GPUs para tarefas de IA com estratégias de agendamento para diferentes cenários de negócios, maximizando a utilização da GPU e mantendo alto desempenho para contêineres

Escalonamento automático de GPU personalizável

Aumente a disponibilidade de recursos de GPU e garanta a estabilidade das tarefas de IA com escalonamento automático de GPU, definindo métricas essenciais como taxa de utilização e uso de memória para acionar o escalonamento vertical ascendente e descendente de instâncias de GPU

Monitoramento de GPU visualizado em tempo real

Mantenha a integridade das instâncias de GPU e equilibre a distribuição de cargas com base em informações visualizadas em tempo real de métricas essenciais da GPU, como alocação e uso de memória e temperatura da GPU, por meio dos painéis de clusters e nós no Prometheus