Os recursos de computação de IA do PAI oferecem capacidade de GPU de alta disponibilidade e alto desempenho para cargas de trabalho de treinamento e inferência. Esses recursos executam o DSW, o dlc e o EAS. Adquira recursos de computação em um pool de recursos, aloque capacidade às equipes por meio de cotas de recursos (Quotas) e vincule as cotas a workspaces antes do uso.
Tipos de recursos
Recursos nativos da nuvem
Os recursos nativos da nuvem aplicam-se ao PAI-DSW, PAI-DLC e PAI-EAS. Eles se dividem em dois tipos:
|
Tipo |
Descrição |
Casos de uso |
|
Recursos de computação de uso geral |
Baseados em produtos de nuvem como ECS, ECI e EGS, estes recursos fornecem capacidade flexível e estável. Após a ativação do PAI, o sistema cria automaticamente uma cota de recurso pública para uso imediato. |
Treinamento e inferência de modelos rotineiros, além de desenvolvimento e experimentação de pequeno a médio porte. |
|
Recursos de computação de IA Lingjun |
Capacidade de alto desempenho projetada para deep learning em larga escala. A co-otimização de hardware e software proporciona interconexão de rede de alto desempenho e aceleração de armazenamento. |
Treinamento de modelos grandes, treinamento distribuído na escala de milhares de GPUs e cargas de trabalho que exigem alta largura de banda de rede e armazenamento. |
Recursos de mecanismo de big data
Os recursos de mecanismo de big data aplicam-se ao PAI-Designer e incluem dois tipos:
|
Tipo |
Descrição |
Referências |
|
MaxCompute |
Data warehouse na nuvem de nível empresarial compatível com análise e processamento eficientes de grandes conjuntos de dados. |
|
|
Realtime Compute for Apache Flink |
Plataforma de análise de big data em tempo real construída sobre o Apache Flink com latência inferior a um segundo. |
Conceitos principais
|
Conceito |
Descrição |
|
Pool de recursos |
Ponto de entrada para aquisição e gerenciamento de recursos de computação. Em um pool de recursos, você cria grupos de recursos, adquire nós de GPU e gerencia renovações e cancelamentos de assinatura. |
|
Cota de recursos (Quota) |
Unidade que aloca capacidade de um pool de recursos. É possível criar uma hierarquia de cotas pai-filho (Quota Tree) para distribuir recursos por equipe ou projeto. Após vincular uma cota a um workspace, o DSW, o DLC e o EAS nesse workspace poderão utilizar a capacidade alocada. |
|
Grupo de recursos |
Agrupamento lógico dentro de um pool de recursos. Cada grupo de recursos corresponde a um conjunto de nós de computação do mesmo tipo. Uma única cota de recursos pode consumir capacidade de vários grupos de recursos. |
Fluxo de trabalho
Siga este fluxo de trabalho para configurar recursos de computação de IA nativos da nuvem:
-
Adquira recursos: Crie um grupo de recursos e adquira recursos de computação em AI Computing Resources > Resource Pool.
Recursos de computação de uso geral: Para obter detalhes, consulte Criar um grupo de recursos e adquirir recursos de computação geral
Recursos de computação de IA Lingjun: Para obter detalhes, consulte Criar um grupo de recursos e adquirir recursos Lingjun
Crie cotas de recursos: Aloque capacidade a diferentes equipes em AI Computing Resources > Resource Quota (Quota). Para obter detalhes, consulte Criar uma cota de recursos.
Vincule a um workspace: Vincule uma cota de recursos a um workspace para que os membros possam usar a capacidade alocada no desenvolvimento e treinamento de IA.
Use a cota de recursos: Ao criar uma instância do DSW, uma tarefa do DLC ou um serviço do EAS, selecione a cota de recursos criada como source de computação.
Os recursos de mecanismo de big data utilizam uma abordagem diferente de gerenciamento de cotas. Para o MaxCompute, consulte Cotas de recursos do MaxCompute. Para o Realtime Compute for Apache Flink, consulte Gerenciar recursos totalmente gerenciados do Flink.
Configurações avançadas
Políticas de agendamento: Configure políticas de agendamento de filas para melhorar a eficiência de retirada da fila e a utilização de recursos. Para obter detalhes, consulte Políticas de agendamento.
Políticas de preempção: Ative a preempção de capacidade para que as tarefas possam utilizar capacidade ociosa de cotas irmãs ou filhas. Para obter detalhes, consulte Política de preempção.
Monitoramento e alertas: Visualize o uso de recursos pelo CloudMonitor e ARMS e configure notificações de alerta. Para obter detalhes, consulte Monitoramento e alertas.
Gerenciamento integrado de recursos de treinamento e inferência: Execute serviços de inferência e tarefas de treinamento no mesmo cluster de GPU para aumentar a utilização geral. Para obter detalhes, consulte Gerenciamento unificado de recursos de inferência e treinamento.
Faturamento
O faturamento dos recursos de computação de IA ocorre por assinatura (mensal ou anual). As taxas dependem da especificação do nó, da quantidade e da duração da assinatura. Para obter detalhes, consulte Faturamento de recursos de computação de IA.