Elastic Container Instance:Criar uma instância spot

Informações básicas

Uma instância preemptível é um recurso de computação de baixo custo baseado em lances. Você pode dar lances em recursos ociosos na Alibaba Cloud para executar seus containers. O sistema recupera esses recursos quando seu lance fica abaixo do preço de mercado atual ou quando o estoque de recursos é insuficiente.

Instâncias preemptíveis são ideais para jobs de curta execução e aplicações stateless altamente escaláveis e tolerantes a falhas, como serviços web elásticos, renderização de imagens, análise de big data e computação paralela em larga escala. Quanto mais distribuída, escalável e tolerante a falhas for sua aplicação, maior será a economia de custos e o aumento de throughput ao usar instâncias preemptíveis. Para mais informações, consulte What is a preemptible instance?.

Configuração

Para criar uma instância spot, adicione annotations aos metadados do pod. A tabela abaixo detalha as annotations aplicáveis.

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify an ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use a bidding strategy with a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.25"            # Set the maximum hourly price.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "2-4Gi"             # Specify vCPU and memory. Instances with 2 vCPUs or more are supported.
        k8s.aliyun.com/eci-spot-strategy: "SpotAsPriceGo"  # Use the system's automatic bidding, which follows the real-time market price.
        k8s.aliyun.com/eci-spot-duration: "0"              # Set no protection period.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify an ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use a bidding strategy with a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.05"            # Set the maximum hourly price.
        k8s.aliyun.com/eci-spot-fallback: "true"                # Automatically convert to a pay-as-you-go instance if spot inventory is unavailable.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

Detalhes da recuperação

Após a criação, a instância spot opera normalmente durante seu período de proteção. Quando esse período expira, a instância é recuperada se o preço de mercado exceder seu lance ou se o estoque de recursos tornar-se insuficiente. Esta seção aborda os eventos e status de pod associados à recuperação de instâncias spot.

• Evento pré-liberação

  Aproximadamente três minutos antes da recuperação de uma instância spot, o sistema gera um evento SpotToBeReleased.

  Importante

  O ECI notifica você por meio de Eventos do Kubernetes sobre a iminente liberação da instância spot. Nesse intervalo, tome medidas para evitar interrupções nos negócios causadas pela recuperação da instância. Para mais informações, consulte Graceful termination.

  • Execute o comando kubectl describe para visualizar informações detalhadas do pod. O evento pré-liberação aparece na seção Events da saída. Veja o exemplo abaixo:

    Events:
      Type     Reason            Age    From          Message
      ----     ------            ----   ----          -------
      Warning  SpotToBeReleased  3m32s  kubelet, eci  Spot ECI will be released in 3 minutes

  • Utilize o comando kubectl get events para consultar informações de eventos. O evento pré-liberação estará visível na saída, conforme o exemplo:

    LAST SEEN   TYPE      REASON             OBJECT         MESSAGE
    3m39s       Warning   SpotToBeReleased   pod/pi-frmr8   Spot ECI will be released in 3 minutes

• Status do pod após recuperação

  Quando uma instância spot é recuperada, suas informações permanecem registradas, mas o status muda para Failed e o motivo passa a ser BidFailed.

  • Execute o comando kubectl get pod para verificar as informações do pod. A mudança de status será visível na saída, como no exemplo:

    NAME       READY   STATUS      RESTARTS   AGE
    pi-frmr8   1/1     BidFailed   0          3h5m

  • Execute o comando kubectl describe para obter detalhes do pod. As informações de status aparecerão na saída, conforme ilustrado abaixo:

    Status:             Failed
    Reason:             BidFailed
    Message:            The pod is spot instance, and have been released at 2020-04-08T12:36Z

Encerramento gracioso

Cerca de três minutos antes da recuperação de uma instância spot, o sistema gera um evento SpotToBeReleased e define o campo ContainerInstanceExpired nas condições do pod como true. Utilize esses mecanismos de notificação para implementar encerramento gracioso e rotação de pods, minimizando impactos nos negócios decorrentes da recuperação de instâncias spot.

O Virtual Node suporta encerramento gracioso para instâncias spot do ECI. Adicione a annotation k8s.aliyun.com/eci-spot-release-strategy: api-evict ao seu pod ECI. Ao receber um evento SpotToBeReleased, o nó virtual aciona a Eviction API para remover a instância spot.

Uma remoção iniciada por API respeita suas configurações de PodDisruptionBudget (PDB) e terminationGracePeriodSeconds. Criar um objeto de Eviction via API equivale a executar uma operação DELETE controlada por política no pod. O fluxo ocorre da seguinte forma:

1. Solicitação à API

   O nó virtual recebe o evento SpotToBeReleased e invoca a Eviction API.

2. Verificação do PDB

   O servidor de API valida o PodDisruptionBudget associado ao pod alvo.

3. Execução da remoção

   Se o servidor de API autorizar a remoção, o pod é excluído seguindo estas etapas:

   1. O recurso do pod no servidor de API recebe um timestamp de exclusão; a partir desse momento, o servidor considera o pod em estado de encerramento. O recurso também é marcado com o período de carência configurado.

   2. O kubelet no nó onde o pod está em execução detecta a marcação de encerramento e inicia o desligamento gracioso do pod local.

   3. Enquanto o kubelet encerra o pod, o plano de controle remove o pod dos objetos Endpoint e EndpointSlice. Consequentemente, os controladores deixam de considerar o pod um objeto válido.

   4. Quando o período de carência do pod expira, o kubelet força o encerramento do pod local.

   5. O kubelet solicita ao servidor de API que exclua o recurso do pod.

   6. O servidor de API conclui a exclusão do recurso do pod.

4. Reconciliação da carga de trabalho

   Se um controlador gerencia o pod alvo (como ReplicaSet, StatefulSet, Job tolerante a falhas, sparkApplication ou Workflow), ele geralmente cria um novo pod para substituir o removido.