Alibaba Cloud Service Mesh:Use route-level circuit breaking

apiVersion: networking.istio.io/v1alpha3
kind: DestinationRule
metadata:
  name: httpbin
spec:
  host: httpbin
  trafficPolicy:
    connectionPool:
      tcp:
        maxConnections: 1
      http:
        http1MaxPendingRequests: 1
        maxRequestsPerConnection: 1
    outlierDetection:
      consecutive5xxErrors: 1
      interval: 1s
      baseEjectionTime: 3m
      maxEjectionPercent: 100

apiVersion: istio.alibabacloud.com/v1beta1
kind: ASMCircuitBreaker
metadata:
  name: ingressgateway
  namespace: istio-system
spec:
  workloadSelector:
    labels:
      app: istio-ingressgateway
  isGateway: true
  configs:
    - match:
        vhost:
          name: "bf2.example.com"
          port: 80
          route:
            name_match: nginx-route-name1
      breaker_config:
        slow_request_rt: 0.1s
        break_duration: 90s
        window_size: 10s
        max_slow_requests: 10
        min_request_amount: 3
        error_percent:
          value: 60
        custom_response:
          header_to_add:
            x-envoy-circuitbreak: "true"
          body: "hello, break!"
          status_code: 499

Etapa 1: Crie o recurso ASMCircuitBreaker

Salve o seguinte YAML em um arquivo chamado asmcircuitbreaker-test-gw.yaml:

apiVersion: istio.alibabacloud.com/v1beta1
kind: ASMCircuitBreaker
metadata:
  name: ingressgateway
  namespace: istio-system
spec:
  workloadSelector:
    labels:
      app: istio-ingressgateway
  isGateway: true
  configs:
    - match:
        vhost:
          name: "bf2.example.com"
          port: 80
          route:
            name_match: httpbin-route-name1
      breaker_config:
        slow_request_rt: 0.1s
        break_duration: 90s
        window_size: 10s
        max_slow_requests: 10
        min_request_amount: 3
        error_percent:
          value: 60
        custom_response:
          header_to_add:
            x-envoy-overload: "true"
          body: "hello, break!"
          status_code: 499

Aplique o recurso:

kubectl apply -f asmcircuitbreaker-test-gw.yaml

Esta regra monitora a rota httpbin-route-name1 em uma janela deslizante de 10 segundos. O circuit breaking é acionado quando qualquer uma das condições é atendida:

• Mais de 10 solicitações lentas (tempo de resposta > 0,1 segundos)

• Taxa de erro superior a 60%, com pelo menos 3 solicitações no total

Quando acionado, todas as solicitações para /httpbin recebem uma resposta 499 com o corpo hello, break! por 90 segundos. Após a expiração da break_duration de 90 segundos, o circuito é redefinido e as solicitações fluem para o HTTPBin novamente.

Etapa 2: Acionar o circuit breaking com falhas simuladas

Use curl para gerar solicitações lentas ou respostas de erro. As primeiras solicitações são bem-sucedidas normalmente porque os limiares não foram atingidos.

Simule um atraso de 1 segundo (excede o limiar slow_request_rt de 0,1 segundos):

curl -H 'host: bf2.example.com' http://${ASM_GATEWAY_IP}/httpbin/delay/1 -v

Simule um erro 500:

curl -H 'host: bf2.example.com' http://${ASM_GATEWAY_IP}/httpbin/status/500 -v

Repita qualquer um dos comandos pelo menos 10 vezes dentro de 10 segundos. À medida que os contadores se acumulam na janela deslizante, você observará uma progressão:

1. Solicitações iniciais: as primeiras solicitações são bem-sucedidas normalmente (HTTP 200 do HTTPBin ou a resposta de atraso/erro esperada do próprio HTTPBin). O circuit breaking não foi acionado porque os limiares não foram atingidos.

2. Limiar ultrapassado: após solicitações suficientes excederem os limiares configurados dentro da janela de 10 segundos, as solicitações subsequentes retornam a resposta personalizada de circuit breaking:

      < HTTP/1.1 499 Unknown
      < Content-Length: 12
      < Content-Type: text/plain
      < x-envoy-overload: true
      < Date: Thu, 13 Jan 2022 03:03:09 GMT
      < Server: istio-envoy
      <
      Hello,Break!

Três indicadores confirmam que o circuit breaking está ativo:

• Código de status: 499 (o status_code personalizado definido na regra)

• Cabeçalho: x-envoy-overload: true (o cabeçalho personalizado de header_to_add)

• Corpo: Hello,Break! (o body personalizado)

Etapa 3: Verifique se outras rotas não são afetadas

Enquanto o circuit breaking estiver ativo para /httpbin, envie uma solicitação para a rota /productpage do Bookinfo:

curl -H 'host: bf2.example.com' http://${ASM_GATEWAY_IP}/productpage -v

Uma resposta HTTP 200 bem-sucedida confirma que a regra de circuit breaking afeta apenas a rota httpbin-route-name1. O Bookinfo continua a atender solicitações normalmente porque a regra tem como alvo uma rota específica, e não todo o serviço.