Function Compute:Limites de dimensionamento de instâncias e políticas elásticas

Dimensionamento de instâncias sob demanda

Quando a velocidade de dimensionamento ou a contagem de instâncias excede o limite regional, o Function Compute retorna HTTP 429 para indicar limitação (throttling). A figura a seguir mostra as três fases durante um pico de tráfego.

• Fase 1: as instâncias são iniciadas imediatamente para absorver o pico. Ocorrem cold starts, mas não há limitação, pois o limite de burst ainda não foi atingido.

• Fase 2: o limite de burst é atingido. A criação de novas instâncias passa a ser restrita pela taxa de crescimento. Algumas solicitações sofrem limitação.

• Fase 3: a contagem total de instâncias atinge o teto regional. A limitação continua para as solicitações que não podem ser atendidas.

Dimensionamento de instâncias provisionadas

As instâncias provisionadas são pré-inicializadas e mantidas em reserva antes da chegada de qualquer invocação. Isso elimina cold starts para a capacidade reservada e reduz a probabilidade de limitação durante picos de tráfego.

A figura a seguir mostra o mesmo cenário de pico com instâncias provisionadas em uso.

• Fase 1: todas as solicitações recebidas são encaminhadas para instâncias provisionadas. Não ocorrem cold starts nem limitação até que a capacidade provisionada esteja cheia.

• Fase 2: as instâncias provisionadas ficam saturadas. O Function Compute começa a criar instâncias sob demanda para lidar com o excesso. Ocorrem cold starts, mas a limitação ainda é evitada até que o limite de burst seja atingido.

Dimensionamento agendado

Utilize o dimensionamento agendado quando o tráfego seguir um padrão previsível, como horários de pico durante o expediente comercial ou aumentos de tráfego ligados a eventos específicos. Quando as invocações simultâneas excederem a capacidade agendada, o excesso será encaminhado para instâncias sob demanda.

"scheduledActions": [
    {
      "name": "scale_up_action",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "target": 50,
      "scheduleExpression": "cron(0 0 20 * * *)",
      "timeZone": "Asia/Shanghai"
    },
    {
      "name": "scale_down_action",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "target": 10,
      "scheduleExpression": "cron(0 0 22 * * *)",
      "timeZone": "Asia/Shanghai"
    }
  ]

Dimensionamento baseado em limiar

Utilize o dimensionamento baseado em limiar quando o tráfego for mais difícil de prever. O Function Compute coleta periodicamente métricas de concorrência ou utilização de recursos das instâncias provisionadas e ajusta a contagem de instâncias para permanecer dentro do intervalo minCapacity–maxCapacity definido.

O dimensionamento baseado em limiar exige que a coleta de métricas no nível da instância esteja ativada previamente. Sem isso, você receberá um erro 400 InstanceMetricsRequired . Consulte Ative collection of instance-level metrics .

A métrica ProvisionedConcurrencyUtilization rastreia apenas instâncias provisionadas. A concorrência de instâncias sob demanda é excluída.

A utilização de concorrência é a razão entre o número de solicitações simultâneas atualmente tratadas pelas Minimum Instances e o número máximo de solicitações simultâneas que as Minimum Instances podem suportar. O valor varia de 0 a 1.

"targetTrackingPolicies": [
    {
      "name": "action_1",
      "startTime": "2024-08-01T10:00:00",
      "endTime": "2024-08-30T10:00:00",
      "metricType": "ProvisionedConcurrencyUtilization",
      "metricTarget": 0.6,
      "minCapacity": 10,
      "maxCapacity": 100,
      "timeZone": "Asia/Shanghai"
    }
  ]

Como é calculado o número mínimo atual de instâncias?

O exemplo a seguir mostra como o número mínimo atual de instâncias é determinado conjuntamente pelo número mínimo de instâncias configurado inicialmente e pelos valores alvo definidos nas políticas de dimensionamento agendado.

Configuração:

• defaultTarget: 5

• Duas políticas agendadas, fuso horário Asia/Shanghai (UTC+8), ativas de 9 a 11 de janeiro de 2025

  • Scale-out para 20 às 10:00 diariamente

  • Scale-in para 10 às 22:00 diariamente

{
    "defaultTarget": 5,
    "scheduledActions": [
        {
            "name": "scale_up_action",
            "startTime": "2025-01-09T10:00:00",
            "endTime": "2025-01-11T00:00:00",
            "target": 20,
            "scheduleExpression": "cron(0 0 10 * * *)",
            "timeZone": "Asia/Shanghai"
        },
        {
            "name": "scale_down_action",
            "startTime": "2025-01-09T10:00:00",
            "endTime": "2025-01-11T00:00:00",
            "target": 10,
            "scheduleExpression": "cron(0 0 22 * * *)",
            "timeZone": "Asia/Shanghai"
        }
    ]
}

A figura a seguir mostra como a contagem de instâncias provisionadas muda ao longo do tempo sob esta configuração.