Container Service for Kubernetes:Serverless elasticity in virtual nodes

O que são nós virtuais

Em clusters ACK, os nós são as unidades básicas que fornecem recursos de computação e armazenamento para executar workloads. A maioria dos clusters ACK possui pelo menos um pool de nós ECS. Quando você cria um pod, o kubelet o agenda em um nó ECS do pool. Esse modo de agendamento é ideal para aplicações com tráfego estável. No entanto, ele enfrenta dificuldades durante picos de tráfego, pois a criação e a inicialização de instâncias ECS consomem tempo. Os nós virtuais permitem agendar pods diretamente no Alibaba Cloud Elastic Container Instance (ECI). Isso reduz a carga operacional de gerenciamento de nós e diminui custos ao evitar recursos ociosos.

Um nó virtual utiliza o ack-virtual-node component para encapsular recursos de computação e permitir a implantação de workloads sem gerenciar a infraestrutura subjacente. O componente agenda automaticamente os pods da aplicação para execução no ECI. O ECI é um service de contêineres serverless no qual cada instância equivale a um pod. Ao usar o ECI para implantar aplicações conteinerizadas, você fornece uma imagem de contêiner e paga apenas pelos recursos consumidos.

Benefícios

Os nós virtuais oferecem os seguintes benefícios:

• Totalmente gerenciado: Não é necessário criar pools de recursos subjacentes, o que reduz a carga de O&M. Como recursos gerenciados, os nós virtuais dispensam operações rotineiras de O&M típicas de nós Kubernetes, como atualizações de sistema ou instalação de patches de segurança.

• Alta capacidade: Escale horizontalmente para até 50.000 pods sem necessidade de planejamento de capacidade.

  Importante

  Se muitos pods estiverem associados a services, recomendamos manter o número de pods abaixo de 20.000.

• Elasticidade em segundos: Crie milhares de pods em pouco tempo. Isso evita que a latência na criação de pods afete os services durante picos de tráfego.

• Isolamento seguro: Os pods são criados com base no ECI. Cada instância de contêiner possui forte isolamento das demais por meio de tecnologia leve de contêineres em sandbox.

• Custo-benefício: As aplicações são criadas sob demanda e faturadas no modelo pagamento conforme o uso. Não há cobrança por recursos ociosos. A arquitetura serverless também reduz os custos de O&M.

Cenários

Os nós virtuais são adequados para os seguintes cenários:

• Serviços online

  Para services online sujeitos a picos frequentes de tráfego, como educação online e e-commerce, os nós virtuais suportam dimensionamento em segundos. Isso previne falhas no sistema causadas por escalonamentos lentos durante surtos de tráfego e evita desperdício de recursos ociosos.

• Processamento de dados

  No processamento de diversas tarefas de dados online simultâneas, como jobs do Spark e Presto, a concorrência deixa de ser limitada pelo custo dos recursos subjacentes. É possível escalar rapidamente para milhares de pods e atender às demandas de big data.

• Tarefas de IA

  Tarefas de IA, como treinamento e inferência de modelos, não executam continuamente, mas exigem recursos computacionais significativos. Nesse caso, não é preciso reservar recursos; utilize-os sob demanda com faturamento por segundo para reduzir custos de inferência. Além disso, a elasticidade em nível de segundo permite responder rapidamente a workloads repentinas.

• Ambientes de staging de CI/CD

  Em tarefas de teste em lote no processo de CI/CD, como empacotamento, testes de estresse e simulações, utilize nós virtuais para criar e liberar instâncias de contêiner a qualquer momento. O uso de recursos sob demanda com cobrança por segundo oferece recursos em grande escala a baixo custo.

• Jobs e CronJobs

  Jobs e CronJobs não precisam executar continuamente. Após a conclusão, o job para e o pod correspondente é excluído. Com nós virtuais, o faturamento cessa e os recursos de computação são liberados automaticamente ao fim do job, evitando desperdício.