Function Compute:Limites de mise à l'échelle des instances et politiques d'élasticité

Mise à l'échelle des instances à la demande

Lorsque la vitesse de mise à l'échelle ou le nombre d'instances dépasse la limite régionale, Function Compute renvoie un code HTTP 429 pour indiquer une limitation de débit (throttling). La figure suivante illustre les trois phases lors d'une augmentation soudaine du trafic.

• Phase 1 — Les instances démarrent immédiatement pour absorber la hausse de trafic. Des démarrages à froid se produisent, mais aucune limitation de débit n'est appliquée, car la limite de burst n'a pas encore été atteinte.

• Phase 2 — La limite de burst est atteinte. La création de nouvelles instances est désormais contrainte par le taux de croissance. Certaines requêtes subissent une limitation de débit.

• Phase 3 — Le nombre total d'instances atteint le plafond régional. La limitation de débit se poursuit pour les requêtes qui ne peuvent pas être traitées.

Mise à l'échelle des instances provisionnées

Les instances provisionnées sont pré-initialisées et maintenues en réserve avant l'arrivée de toute invocation. Cela élimine les démarrages à froid pour la capacité réservée et réduit le risque de limitation de débit lors des pics de trafic.

La figure suivante présente le même scénario de pic de trafic avec des instances provisionnées en place.

• Phase 1 — Toutes les requêtes entrantes sont acheminées vers les instances provisionnées. Aucun démarrage à froid ni limitation de débit ne se produit tant que la capacité provisionnée n'est pas saturée.

• Phase 2 — Les instances provisionnées sont saturées. Function Compute commence à créer des instances à la demande pour gérer le débordement. Des démarrages à froid se produisent, mais la limitation de débit est toujours évitée tant que la limite de burst n'est pas atteinte.

Mise à l'échelle planifiée

Utilisez la mise à l'échelle planifiée lorsque le trafic suit un modèle prévisible, par exemple des heures de pointe pendant les heures ouvrables ou des pics de trafic liés à des événements spécifiques. Lorsque les invocations simultanées dépassent la capacité planifiée, le débordement est acheminé vers des instances à la demande.

"scheduledActions": [
    {
      "name": "scale_up_action",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "target": 50,
      "scheduleExpression": "cron(0 0 20 * * *)",
      "timeZone": "Asia/Shanghai"
    },
    {
      "name": "scale_down_action",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "target": 10,
      "scheduleExpression": "cron(0 0 22 * * *)",
      "timeZone": "Asia/Shanghai"
    }
  ]

Mise à l'échelle basée sur les seuils

Utilisez la mise à l'échelle basée sur les seuils lorsque le trafic est difficile à prévoir. Function Compute collecte périodiquement les métriques de concurrence ou d'utilisation des ressources des instances provisionnées et ajuste le nombre d'instances pour rester dans la plage minCapacity–maxCapacity que vous définissez.

La mise à l'échelle basée sur les seuils nécessite l'activation préalable de la collecte des métriques au niveau des instances. Sans cela, vous obtiendrez une erreur 400 InstanceMetricsRequired . Consultez Activer la collecte des métriques au niveau des instances .

La métrique ProvisionedConcurrencyUtilization suit uniquement les instances provisionnées ; la concurrence des instances à la demande est exclue.

L'utilisation de la concurrence correspond au rapport entre le nombre de requêtes concurrentes actuellement traitées par les Minimum Instances et le nombre maximal de requêtes concurrentes que les Minimum Instances peuvent prendre en charge. La valeur varie de 0 à 1.

"targetTrackingPolicies": [
    {
      "name": "action_1",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "metricType": "ProvisionedConcurrencyUtilization",
      "metricTarget": 0.6,
      "minCapacity": 10,
      "maxCapacity": 100,
      "timeZone": "Asia/Shanghai"
    }
  ]

Comment le nombre minimal actuel d'instances est-il calculé ?

L'exemple suivant montre comment le nombre minimal actuel d'instances est déterminé conjointement par le nombre minimal d'instances initialement configuré et les valeurs cibles définies dans les politiques de mise à l'échelle planifiée.

Configuration :

• defaultTarget : 5

• Deux politiques planifiées, fuseau horaire Asia/Shanghai (UTC+8), actives du 9 janvier au 11 janvier 2025

  • Montée en charge vers 20 à 10 h 00 chaque jour

  • Descente en charge vers 10 à 22 h 00 chaque jour

{
    "defaultTarget": 5,
    "scheduledActions": [
        {
            "name": "scale_up_action",
            "startTime": "2025-01-09T10:00:00",
            "endTime": "2025-01-11T00:00:00",
            "target": 20,
            "scheduleExpression": "cron(0 0 10 * * *)",
            "timeZone": "Asia/Shanghai"
        },
        {
            "name": "scale_down_action",
            "startTime": "2025-01-09T10:00:00",
            "endTime": "2025-01-11T00:00:00",
            "target": 10,
            "scheduleExpression": "cron(0 0 22 * * *)",
            "timeZone": "Asia/Shanghai"
        }
    ]
}

La figure suivante montre l'évolution du nombre d'instances provisionnées au fil du temps avec cette configuration.