Elastic Container Instance:Créer une instance spot

Informations générales

Une instance preemptible est une ressource de calcul peu coûteuse, basée sur un système d'enchères. Enchérissez sur les ressources inactives disponibles sur Alibaba Cloud pour exécuter vos conteneurs. Le système récupère ces ressources si votre enchère devient inférieure au prix actuel du marché ou si l'inventaire des ressources est insuffisant.

Les instances preemptibles conviennent aux jobs de courte durée et aux applications sans état hautement évolutives et tolérantes aux pannes, telles que les services web à mise à l'échelle élastique, le rendu d'images, l'analyse de big data et le calcul parallèle à grande échelle. Plus votre application est distribuée, évolutive et tolérante aux pannes, plus vous réalisez d'économies et augmentez le débit en utilisant des instances preemptibles. Pour plus d'informations, consultez la page Qu'est-ce qu'une instance preemptible ?.

Configuration

Créez une instance spot en ajoutant des annotations aux métadonnées du pod. Le tableau suivant décrit les annotations pertinentes.

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify an ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use a bidding strategy with a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.25"            # Set the maximum hourly price.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "2-4Gi"             # Specify vCPU and memory. Instances with 2 vCPUs or more are supported.
        k8s.aliyun.com/eci-spot-strategy: "SpotAsPriceGo"  # Use the system's automatic bidding, which follows the real-time market price.
        k8s.aliyun.com/eci-spot-duration: "0"              # Set no protection period.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

apiVersion: batch/v1
kind: Job
metadata:
  name: test
spec:
  template:
    metadata:
      labels:
        app: perl
        alibabacloud.com/eci: "true" 
      annotations:
        k8s.aliyun.com/eci-use-specs : "ecs.c6.large"           # Specify an ECS instance type.
        k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit"  # Use a bidding strategy with a custom price limit.
        k8s.aliyun.com/eci-spot-price-limit: "0.05"            # Set the maximum hourly price.
        k8s.aliyun.com/eci-spot-fallback: "true"                # Automatically convert to a pay-as-you-go instance if spot inventory is unavailable.
    spec:
      containers:
      - name: pi
        image: registry.cn-shanghai.aliyuncs.com/eci_open/perl:5
        command: ["perl",  "-Mbignum=bpi", "-wle", "print bpi(2000)"]
      restartPolicy: Never

Détails de la récupération

Après la création d'une instance spot, elle fonctionne normalement pendant sa période de protection. À l'expiration de la période de protection, l'instance spot est récupérée si le prix du marché dépasse votre enchère ou si l'inventaire des ressources est insuffisant. Cette section décrit les événements et les statuts de pod liés à la récupération des instances spot.

• Événement de pré-libération

  Environ trois minutes avant la récupération d'une instance spot, un événement SpotToBeReleased est généré.

  Important

  ECI vous informe via les événements Kubernetes que l'instance spot sera libérée. Pendant ce temps, prenez des mesures pour éviter les interruptions d'activité dues à la récupération de l'instance. Pour plus d'informations, consultez la section Arrêt gracieux.

  • Exécutez la commande kubectl describe pour afficher les informations détaillées sur le pod. Vous pouvez voir l'événement de pré-libération dans la section Events de la sortie. Voici un exemple :

    Events:
      Type     Reason            Age    From          Message
      ----     ------            ----   ----          -------
      Warning  SpotToBeReleased  3m32s  kubelet, eci  Spot ECI will be released in 3 minutes

  • Exécutez la commande kubectl get events pour afficher les informations sur les événements. Vous pouvez voir l'événement de pré-libération dans la sortie. Voici un exemple :

    LAST SEEN   TYPE      REASON             OBJECT         MESSAGE
    3m39s       Warning   SpotToBeReleased   pod/pi-frmr8   Spot ECI will be released in 3 minutes

• Statut du pod après récupération

  Après la récupération d'une instance spot, ses informations sont conservées, mais son statut passe à Failed et la raison est BidFailed.

  • Exécutez la commande kubectl get pod pour afficher les informations sur le pod. Vous pouvez constater que le statut du pod a changé dans la sortie. Voici un exemple :

    NAME       READY   STATUS      RESTARTS   AGE
    pi-frmr8   1/1     BidFailed   0          3h5m

  • Exécutez la commande kubectl describe pour afficher les informations détaillées sur le pod. Vous pouvez voir les informations sur le statut du pod dans la sortie. Voici un exemple :

    Status:             Failed
    Reason:             BidFailed
    Message:            The pod is spot instance, and have been released at 2020-04-08T12:36Z

Arrêt gracieux

Environ trois minutes avant la récupération d'une instance spot, un événement SpotToBeReleased est généré et le champ ContainerInstanceExpired dans les conditions du pod est défini sur true. Utilisez ces mécanismes de notification pour mettre en œuvre un arrêt gracieux et une rotation des pods, ce qui minimise les interruptions d'activité dues à la récupération des instances spot.

Virtual Node prend en charge l'arrêt gracieux des instances spot ECI. Ajoutez l'annotation k8s.aliyun.com/eci-spot-release-strategy: api-evict à votre pod ECI. Lorsque le nœud virtuel reçoit un événement SpotToBeReleased, il appelle l'API d'éviction pour évincer l'instance spot.

Une éviction initiée par l'API respecte vos configurations PodDisruptionBudget (PDB) et terminationGracePeriodSeconds. La création d'un objet Eviction à l'aide de l'API est similaire à l'exécution d'une opération DELETE contrôlée par une politique sur un pod. Le processus est le suivant :

1. Requête API

   Le nœud virtuel reçoit un événement SpotToBeReleased et appelle l'API d'éviction.

2. Vérification PDB

   Le serveur API valide le PodDisruptionBudget associé au pod cible.

3. Exécution de l'éviction

   Si le serveur API autorise l'éviction, le pod est supprimé comme suit :

   1. La ressource pod dans le serveur API est mise à jour avec un horodatage de suppression, après quoi le serveur API considère que le pod est en cours de terminaison. La ressource pod est également marquée avec la période de grâce configurée.

   2. Le kubelet sur le nœud où le pod est en cours d'exécution remarque que la ressource pod est marquée pour la terminaison et commence à arrêter gracieusement le pod local.

   3. Pendant que le kubelet arrête le pod, le plan de contrôle supprime le pod des objets Endpoint et EndpointSlice. Par conséquent, les contrôleurs ne considèrent plus le pod comme un objet valide.

   4. À l'expiration de la période de grâce du pod, le kubelet termine de force le pod local.

   5. Le kubelet informe le serveur API de supprimer la ressource pod.

   6. Le serveur API supprime la ressource pod.

4. Réconciliation de la charge de travail

   Si le pod cible est géré par un contrôleur (tel qu'un ReplicaSet, un StatefulSet ou un Job tolérant aux pannes, une sparkApplication ou un Workflow), le contrôleur crée généralement un nouveau pod pour remplacer celui qui a été évincé.