Container Service for Kubernetes:Serverless elasticity in virtual nodes

O que são nós virtuais

Em clusters ACK, os nós são as unidades básicas que fornecem recursos de computação e armazenamento para executar workloads. A maioria dos clusters ACK possui pelo menos um pool de nós ECS. Quando você cria um pod, o kubelet o agenda em um nó ECS do pool. Esse modo de agendamento é ideal para aplicações com tráfego estável. No entanto, ele enfrenta dificuldades durante picos de tráfego, pois a criação e a inicialização de instâncias ECS consomem tempo. Os nós virtuais permitem agendar pods diretamente no Alibaba Cloud Elastic Container Instance (ECI). Isso reduz a carga operacional de gerenciamento de nós e diminui custos ao evitar recursos ociosos.

Um nó virtual utiliza o ack-virtual-node component para encapsular recursos de computação. Isso permite implantar workloads sem gerenciar a infraestrutura subjacente. O componente agenda automaticamente os pods da aplicação para execução no ECI. O ECI é um service de contêineres serverless no qual cada instância equivale a um pod. Ao usar o ECI para implantar aplicações em contêineres, forneça uma imagem de contêiner e pague apenas pelos recursos consumidos.

Benefícios

Os nós virtuais oferecem os seguintes benefícios:

• Totalmente gerenciado: Não é necessário criar pools de recursos subjacentes, o que reduz a carga de trabalho de O&M. Como recursos gerenciados, os nós virtuais dispensam operações rotineiras de O&M de nós Kubernetes, como atualizações de sistema ou instalação de patches de segurança.

• Grande capacidade: Escale horizontalmente até 50.000 pods sem planejamento de capacidade.

  Importante

  Se muitos pods estiverem associados a services, recomendamos manter o número de pods abaixo de 20.000.

• Elasticidade em segundos: Crie milhares de pods em pouco tempo. Isso evita que a latência na criação de pods afete os services durante picos de tráfego.

• Isolamento seguro: Os pods são criados com base no ECI. Cada instância de contêiner apresenta forte isolamento das demais por meio de tecnologia de contêineres leves em sandbox.

• Custo-benefício: As aplicações são criadas sob demanda e faturadas conforme o uso (pay-as-you-go). Não há cobrança por recursos ociosos. Além disso, a arquitetura serverless reduz os custos de O&M.

Cenários

Os nós virtuais são adequados para os seguintes cenários:

• Serviços online

  Para services online sujeitos a picos frequentes de tráfego, como educação online e e-commerce, os nós virtuais suportam dimensionamento em segundos. Isso previne falhas no sistema causadas por escalonamentos lentos durante surtos de tráfego e evita desperdício com recursos ociosos.

• Processamento de dados

  No processamento de muitas tarefas de dados online simultâneas, como tarefas Spark e Presto, a concorrência deixa de ser limitada pelo custo dos recursos subjacentes. Escale rapidamente para milhares de pods a fim de atender aos requisitos de big data.

• Tarefas de IA

  Tarefas de IA, como treinamento e inferência de modelos, não executam continuamente, mas exigem recursos computacionais significativos. Nesse caso, não é necessário reservar recursos. Utilize os recursos sob demanda e pague por segundo para reduzir os custos de inferência de IA. Além disso, a elasticidade em nível de segundo permite responder rapidamente a workloads repentinas.

• Ambientes de staging de CI/CD

  Em tarefas de teste em lote no processo de CI/CD, como empacotamento CI, testes de estresse e testes de simulação, utilize nós virtuais para criar e liberar instâncias de contêiner a qualquer momento. Use recursos sob demanda com cobrança por segundo. Essa abordagem fornece recursos em grande escala a baixo custo.

• Jobs e CronJobs

  Jobs e CronJobs não precisam de execução contínua. Após a conclusão de um job, ele para e o pod correspondente é excluído. Com nós virtuais, o faturamento cessa e os recursos de computação são liberados automaticamente ao término do job. Isso evita desperdício por ociosidade.