A solução de aceleração de IA do Alibaba Cloud inclui a camada Cloud-Native AI Suite, a camada de agendamento de tarefas de IA, a camada de aceleração de dados de IA, a camada do mecanismo de aceleração de computação de IA, a camada de agendamento de recursos e a camada de recursos de computação. Cada camada oferece soluções de aceleração específicas com base nas características das aplicações de IA em diversos cenários.
Cloud-Native AI Suite: Simplifique operações com serviços e componentes subjacentes, monitore a utilização de recursos GPU e colete e analise logs de tarefas de IA. Você pode usar linhas de comando para enviar tarefas de IA e verificar o cronograma de treinamento de modelos.
Agendamento de tarefas de IA: Agende tarefas de IA para acelerar o treinamento de modelos, aumentar a utilização de GPU e reduzir custos.
AIACC: Utilize frameworks de deep learning como TensorFlow, PyTorch, MXNet e Caffe para categorizar imagens e realizar reconhecimento de imagem, previsão de CTR (taxa de cliques), processamento de linguagem natural, reconhecimento de fala, reconhecimento facial, entre outros.
Aceleração de dados: Adote a arquitetura com armazenamento e computação separados, com dados armazenados em dispositivos diferentes dos locais e treinamento de modelos executado no Alibaba Cloud. Os dados são armazenados em arquivos pequenos e pré-carregados antes do treinamento de modelos para melhorar a eficiência de transmissão e treinamento.
Agendamento de recursos: Aumente a utilização de GPU e reduza custos compartilhando recursos GPU entre múltiplas tarefas de IA e executando tarefas individuais em várias GPUs para treinamento distribuído de modelos.
Recursos de computação — GPU: Gerencie e agende memória GPU e poder de computação como contêineres com cGPU para acelerar o treinamento e a inferência de IA.