Container Service for Kubernetes:Use spot instances in Knative

Pré-requisitos

Antes de começar, verifique se você possui:

• O Knative implantado no seu cluster ACK. Para mais informações, consulte Implantar e gerenciar componentes do Knative.

• A versão 2.11.0 ou posterior do ack-virtual-node, caso deseje usar a API de Eviction para desligamento controlado. Para mais informações, consulte ack-virtual-node.

Conceitos principais

• Instância spot

  Uma instância de computação preemptiva e econômica. Você pode dar lances na capacidade ociosa de computação da Alibaba Cloud para executar seus containers. A instância permanece em execução até que seu lance fique abaixo do preço de mercado atual ou até que o recurso seja recuperado devido à falta de estoque. Para mais informações, consulte O que é uma instância spot?

• Knative

  O Knative visa estabelecer um padrão para orquestração de aplicações serverless nativas da nuvem e multiplataforma. Seus principais recursos incluem dimensionamento automático baseado em requisições, redução a zero, gerenciamento de múltiplas versões, lançamentos canary baseados em tráfego, implantação de funções e arquitetura orientada a eventos. Para mais informações, consulte Visão geral do ACK Knative e Visão geral do ACK Serverless Knative.

Como funciona

Os Serviços do Knative dimensionam automaticamente os Pods conforme as requisições recebidas. Cada Pod executa em um nó virtual, que provisiona o recurso correspondente do Elastic Container Instance (ECI) com base nas anotações do Pod. Para utilizar instâncias spot, adicione anotações específicas ao modelo de Pod do seu Serviço Knative. O nó virtual cuida do provisionamento e da substituição automática.

O Knative é ideal para instâncias spot pelos seguintes motivos:

• Cargas de trabalho escopadas por requisição: Os Pods do Knative processam requisições individuais e liberam recursos imediatamente após a conclusão. Assim, interrupções raramente afetam o trabalho em andamento.

• Desligamento controlado nativo: O Knative injeta um container sidecar queue-proxy em cada Pod. Quando um Pod é encerrado, o queue-proxy aguarda a conclusão de todas as requisições em trânsito antes que o container da aplicação seja desligado.

• Economia de custos: Para usuários do Knative focados em otimização orçamentária, o uso de instâncias spot proporciona uma redução significativa de despesas.

Limitações

Configurar instâncias spot

Adicione as seguintes anotações ao modelo de Pod do seu Serviço Knative.

Escolher uma estratégia de lance

Existem duas estratégias de lance disponíveis. Escolha conforme sua tolerância a variações de custo e falhas na criação.

Exemplos

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: helloworld-go
spec:
  template:
    metadata:
      labels:
        alibabacloud.com/eci: "true"
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify the ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use the strategy that sets a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.25"            # Set the maximum hourly price.
    spec:
      containers:
      - env:
        - name: TARGET
          value: "Knative"
        image: registry.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: helloworld-go
spec:
  template:
    metadata:
      labels:
        alibabacloud.com/eci: "true"
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify the ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use the strategy that sets a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.05"             # Set the maximum hourly price.
        k8s.aliyun.com/eci-spot-fallback: "true"                # Automatically fall back to an on-demand instance if spot inventory is unavailable.
    spec:
      containers:
      - env:
        - name: TARGET
          value: "Knative"
        image: registry.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56

Criar um Serviço Knative com instâncias spot

O procedimento a seguir cria um Serviço Knative de exemplo que utiliza a estratégia SpotAsPriceGo com fallback para sob demanda ativado.

1. Faça login no console do ACK. No painel de navegação à esquerda, clique em console do ACKClusters.

2. Na página Clusters, clique no nome do seu cluster. No painel de navegação à esquerda, clique em Applications > Knative.

3. Na página Knative, clique na aba Services. Selecione default na lista suspensa Namespace e clique em Create from Template. Na lista suspensa Sample Template, selecione custom. Cole o YAML a seguir no editor e clique em Create.

   apiVersion: serving.knative.dev/v1
   kind: Service
   metadata:
     name: helloworld-go
   spec:
     template:
       metadata:
         labels:
           alibabacloud.com/eci: "true"
         annotations:
           k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify the ECS instance type.
           k8s.aliyun.com/eci-spot-strategy: "SpotAsPriceGo"       # Use the strategy that follows the market price.
           k8s.aliyun.com/eci-spot-duration: "1"                   # Protection period in hours.
           k8s.aliyun.com/eci-spot-fallback: "true"                # Fall back to on-demand if spot inventory is unavailable.
       spec:
         containers:
         - env:
           - name: TARGET
             value: "Knative"
           image: registry-vpc.{REGION-ID}.aliyuncs.com/knative-samples/helloworld-go:160e4dc8 # Replace {REGION-ID} with your cluster's region ID, such as cn-hangzhou.

   Essa configuração cria uma instância spot ecs.c6.large com o seguinte comportamento:

   • Se não houver estoque spot disponível no momento da criação, uma instância sob demanda será provisionada.

   • Após a criação, a instância executa com um período de proteção garantido de 1 hora.

   • Terminada a proteção, a instância spot pode ser recuperada se o preço de mercado superar o lance atual ou se o estoque tornar-se insuficiente. A configuração eci-spot-fallback: "true" garante a criação de uma instância sob demanda caso não haja estoque spot quando o nó virtual substituir o Pod.

Lidar com interrupções de instâncias spot

A Alibaba Cloud envia um evento SpotToBeReleased e define a condição do pod ContainerInstanceExpired como true aproximadamente 3 minutos antes da recuperação da instância spot.

A figura a seguir mostra um exemplo da notificação.

Nessa janela de 3 minutos, configure o tratamento controlado para que as requisições em trânsito sejam concluídas antes do encerramento do Pod.

Monitorar eventos de instâncias spot

Events:
  Type     Reason            Age    From          Message
  ----     ------            ----   ----          -------
  Warning  SpotToBeReleased  3m32s  kubelet, eci  Spot ECI will be released in 3 minutes

LAST SEEN   TYPE      REASON             OBJECT         MESSAGE
3m39s       Warning   SpotToBeReleased   pod/pi-frmr8   Spot ECI will be released in 3 minutes

NAME       READY   STATUS      RESTARTS   AGE
pi-frmr8   1/1     BidFailed   0          3h5m

Status:             Failed
Reason:             BidFailed
Message:            The pod is spot instance, and have been released at 2020-04-08T12:36Z

Próximos passos

Se sua aplicação for sensível à latência de cold start, considere usar instâncias reservadas para manter uma instância burstable de baixa especificação sempre ativa. Isso reduz o tempo de inicialização sem aumentar significativamente os custos. Para mais informações, consulte Configurar instâncias reservadas.