O plano de controle provisionado pré-aloca recursos dedicados para treinamento e inferência de IA, clusters de ultra grande porte e cargas de trabalho de missão crítica, mantendo a concorrência de requisições de API e a capacidade de agendamento de pods em um nível alto e previsível.
Os clusters do ACK Pro ajustam dinamicamente as configurações de recursos dos componentes do plano de controle, como o API Server e o etcd, com base na carga real do cluster. Isso é adequado para a maioria dos cenários. No entanto, para clusters de ultra grande porte ou cenários com picos repentinos de tráfego com alta concorrência, a latência de resposta do dimensionamento automático pode afetar a continuidade dos negócios. Por exemplo, ao iniciar grandes lotes de pods para treinamento de IA em larga escala, podem ocorrer atrasos no agendamento ou os pods podem ficar pendentes. Em horários de pico, a lentidão nas respostas da API pode comprometer a continuidade dos negócios.
O plano de controle provisionado do ACK Pro elimina a incerteza do dimensionamento automático ao dedicar recursos do plano de controle e defina uma configuração de linha de base para o API Server. Em vez de depender de mecanismos reativos para acompanhar a demanda, essa abordagem garante que o desempenho do plano de controle seja sempre previsível.
O plano de controle provisionado do ACK Pro é executado em paralelo com o plano de controle padrão do ACK Pro. Ative o plano de controle provisionado não afeta a operação dos clusters ACK gerenciados existentes.
Casos de uso
-
Treinamento e inferência de IA
Tarefas de treinamento de IA em larga escala podem envolver a criação e o agendamento simultâneo de dezenas de milhares de pods e, geralmente, exigem o início imediato da computação após o agendamento. A latência de dimensionamento automático de um plano de controle padrão pode fazer com que os pods fiquem pendentes ou interrompam o processo de treinamento. Um plano de controle provisionado garante que a capacidade de agendamento necessária esteja pronta no momento em que o treinamento é iniciado.
-
Implantações de clusters em larga escala
Para cenários que processam constantemente alta concorrência de requisições de API, como aplicações baseadas em agentes e clusters de microsserviços, um plano de controle provisionado simplifica a operação de grandes clusters e reduz a complexidade por meio do gerenciamento padronizado de níveis.
-
Aplicações web de missão crítica
Para cargas de trabalho containerizadas essenciais e sensíveis à latência, a latência de resposta do plano de controle pode afetar diretamente a disponibilidade do service. Um plano de controle provisionado oferece concorrência de requisições de API e taxas de agendamento de pods determinísticas para garantir a continuidade dos negócios.
Níveis
Especificações de nível
O plano de controle provisionado está disponível em três níveis. Cada nível define a capacidade do plano de controle com base em três métricas principais.
O acesso ao nível Pro 4XL requer inclusão na lista de permissões. Entre em contato com o suporte ao cliente para solicitar o acesso.
|
Métricas de desempenho |
Pro XL |
Pro 2XL |
Pro 4XL |
|
Concorrência de requisições de API (Seats)① |
3.900 |
7.800 |
15.600 |
|
Taxa de agendamento de pods (pods/segundo)② |
200 |
400 |
600 |
|
Tamanho do banco de dados etcd (GB)③ |
16 |
16 |
16 |
Descrições das métricas:
① Concorrência de requisições de API (Seats): A capacidade máxima de processamento de requisições simultâneas do API Server, expressa em Seats. O plano de controle provisionado garante uma capacidade consistente de tratamento de requisições em cenários de alta concorrência ao dedicar recursos de linha de base ao API Server.
② Taxa de agendamento de pods (pods/segundo): A taxa na qual o agendador do cluster atribui pods aos nós. O plano de controle provisionado garante uma taxa de agendamento previsível por meio de um ResourceQuota fixo.
③ Tamanho do banco de dados etcd: A capacidade para armazenar os dados completos do cluster. O plano de controle provisionado usa armazenamento separado para dados de Eventos, a fim de evitar que gravações de eventos de alta frequência afetem as operações de estado centrais.
Regras de alternância de nível
Você pode fazer upgrade e downgrade entre o nível Pro padrão e os níveis de plano de controle provisionado (Pro XL, Pro 2XL e Pro 4XL), bem como entre os níveis predefinidos. Por exemplo, você pode fazer upgrade de Pro para Pro XL ou de Pro XL para Pro 2XL.
Não é possível alternar para um ACK Basic cluster.
A alternância automática de nível não é suportada. Após a seleção de um nível, o plano de controle opera nessa especificação fixa para garantir um desempenho previsível. Para ajustar a capacidade da sua carga de trabalho, monitore as métricas do plano de controle e faça upgrade ou downgrade do nível manualmente.
Plano de controle padrão em comparação com o plano de controle provisionado
|
Aspecto |
Plano de controle padrão do ACK Pro |
Plano de controle provisionado do ACK Pro |
|
Configuração de recursos do plano de controle |
Dimensionamento automático, ajustado dinamicamente de acordo com a carga |
Capacidade fixa pré-alocada, sempre suficiente |
|
Garantia de concorrência de requisições de API |
Dinâmica, com limite no nível Pro XL |
Cada nível possui uma especificação de Seats definida |
|
Garantia de taxa de agendamento de pods |
Dinâmica, com limite no nível Pro XL |
Cada nível possui um valor de pods/segundo definido |
|
Configuração do etcd |
8 GB |
16 GB |
|
Método de faturamento |
Plano de recursos ou pagamento conforme o uso |
Apenas pagamento conforme o uso |
|
Casos de uso |
Cargas de trabalho gerais que toleram a latência de dimensionamento automático |
Cargas de trabalho de larga escala e alta concorrência que exigem desempenho previsível |
Faturamento
O plano de controle provisionado usa a mesma lógica de faturamento do ACK Pro cluster.
O faturamento ocorre a cada hora. No início de cada hora, o sistema realiza a cobrança com base no nível atual do plano de controle do seu cluster.
Após a alternância de níveis, a nova taxa de faturamento entra em vigor a partir do início da hora em que a alternância ocorreu. Por exemplo, se você alternar de Pro para Pro XL às 10:20, será cobrado à taxa do Pro XL durante todo o ciclo de faturamento das 10:00 às 11:00.
-
Somente o método de faturamento de pagamento conforme o uso é suportado. Os planos de recursos pré-pagos existentes para o ACK Pro cluster aplicam-se apenas aos clusters padrão do ACK Pro e não aos níveis de plano de controle provisionado.
Para mais informações, consulte Taxas de gerenciamento de cluster.
Planejamento de capacidade e monitoramento de métricas
Para decidir se é necessário alternar de nível e selecione a capacidade adequada, monitore os seguintes painéis. O procedimento para abrir cada painel e interpretar seus painéis está descrito em Observabilidade do plano de controle provisionado do ACK Pro.
Métricas principais de capacidade
Na página Cluster Information do seu cluster, clique em Cluster Monitoring. Concentre-se nas seguintes métricas de capacidade e compare-as com as Especificações de nível do plano de controle provisionado para selecione o nível correto:
Concorrência de requisições de API: Verifique essa métrica em relação à especificação de Seats de cada nível para avaliar a pressão de processamento simultâneo no API Server.
Taxa de agendamento de pods: Observe o número de requisições de agendamento de pods processadas por segundo para determinar se o agendador é um gargalo.
Tamanho do banco de dados etcd: Monitore o uso de armazenamento do etcd para garantir que o volume de dados permaneça dentro dos limites seguros do nível atual.
Uso de recursos
No painel de navegação à esquerda da página de detalhes do cluster, escolha Cluster Monitoring > Operations.
-
Clique em Key Component Monitoring e alterne entre as guias de complementos para visualize os detalhes. Monitore o uso de recursos de memória e CPU dos componentes API Server, etcd e agendador. Se o nível de uso permanecer no estado
high(utilização ≥ 80%) por um período prolongado, os recursos atuais do plano de controle estarão sob pressão. Faça upgrade para um nível superior imediatamente.Para descrições detalhadas das métricas, consulte as Referências.
Notas de uso
Selecione o nível ideal: Para encontrar o nível ideal para o seu cluster, alterne para um nível superior, execute um teste de estresse que simule cargas de pico e observe o uso de recursos do plano de controle. Em seguida, selecione o nível que melhor se adapta aos dados de desempenho.
Limitação de reversão: O banco de dados etcd de um plano de controle padrão do ACK Pro tem um limite de capacidade de 8 GB. Se o uso do banco de dados etcd exceder 8 GB enquanto o cluster estiver em execução no modo de plano de controle provisionado, reduza o tamanho do banco de dados para menos de 8 GB antes de reverter para o plano de controle padrão do ACK Pro.
Dimensionamento de complementos do plano de dados: Após ative o plano de controle provisionado, monitore também o uso de recursos dos complementos do plano de dados, como CoreDNS e metrics-server. Dimensione esses complementos adequadamente com base na carga real para evitar que o plano de dados se torne um gargalo de desempenho.
Ajuste de cluster e carga de trabalho: configure seus clusters e cargas de trabalho de acordo com as Melhores práticas de cluster para melhorar ainda mais o desempenho do cluster. Ao planejar e ajustar um cluster de larga escala, siga as Recomendações para o uso de clusters de grande escala.
Primeiros passos
É possível configure um nível de plano de controle provisionado para um cluster novo ou existente.
Para fazer upgrade de um cluster, consulte Fazer upgrade de um cluster.
Novo cluster
Por padrão, o processo de criação é o mesmo do ACK Pro cluster. Selecione explicitamente um nível de plano de controle provisionado para ative esse recurso.
-
Acesse o ACK console. No painel de navegação à esquerda, escolha Prometheus Monitoring e clique em Key Component Monitoring.
Para mais informações, consulte Crie um cluster ACK gerenciado Pro.
-
Na etapa Clusters, defina Create Kubernetes Cluster para um nível de plano de controle provisionado (Pro XL, Pro 2XL ou Pro 4XL) conforme as instruções.
Após a criação do cluster, o plano de controle é executado com as especificações do nível selecionado.
Cluster existente
Para um cluster ACK Pro existente, verifique o uso atual de recursos no painel de monitoramento dos componentes do plano de controle. Em seguida, faça upgrade do nível com base nos alertas de uso de recursos ou em preparação para o tráfego de pico.
Na página ACK Clusters, clique em nome do seu cluster. No painel de navegação à esquerda, clique em Cluster Configurations.
Clique em Basic Information. Na seção Cluster Specification, localize a área Cluster Information e siga as instruções para ative ou configure um nível de plano de controle provisionado.
Referências
Acordo de Nível de Serviço (SLA): O recurso de plano de controle provisionado adiciona novos níveis de desempenho aos clusters do ACK Pro. Esses níveis oferecem as mesmas garantias de um cluster padrão do ACK Pro. Para mais informações, consulte o .
-
Monitoramento dos componentes do plano de controle: