Container Service for Kubernetes:Access services using Gateway with Inference Extension

Em um cluster ACK Edge, o método de implantação do Envoy Gateway difere daquele em um cluster ACK padrão:

A implantação atual está configure com uma política de distribuição por node pool. Ajuste o número de réplicas no gerenciamento de componentes para garantir que ao menos uma réplica do control plane seja executada em cada node pool.

Etapa 1: crie um aplicativo de teste

Salve o exemplo a seguir como backend.yaml e execute o comando kubectl apply -f backend.yaml para crie os aplicativos de teste: backend e backend-2.

Em cenários ACK Edge, é necessário configure a topologia de service. Adicione a anotação openyurt.io/topologyKeys: openyurt.io/nodepool ao Service para garantir que o tráfego seja encaminhado somente para pods dentro do mesmo node pool. Para mais informações, consulte Topologia de service para node pools .

apiVersion: v1
kind: ServiceAccount
metadata:
  name: backend
---
apiVersion: v1
kind: Service
metadata:
  name: backend
  annotations:
    openyurt.io/topologyKeys: openyurt.io/nodepool # Configure the node pool topology
  labels:
    app: backend
    service: backend
spec:
  ports:
    - name: http
      port: 3000
      targetPort: 3000
  selector:
    app: backend
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: backend
spec:
  replicas: 1
  selector:
    matchLabels:
      app: backend
      version: v1
  template:
    metadata:
      labels:
        app: backend
        version: v1
    spec:
      serviceAccountName: backend
      containers:
        - image: registry-cn-hangzhou.ack.aliyuncs.com/ack-demo/envoygateway-echo-basic:v20231214-v1.0.0-140-gf544a46e
          imagePullPolicy: IfNotPresent
          name: backend
          ports:
            - containerPort: 3000
          env:
            - name: POD_NAME
              valueFrom:
                fieldRef:
                  fieldPath: metadata.name
            - name: NAMESPACE
              valueFrom:
                fieldRef:
                  fieldPath: metadata.namespace
---
apiVersion: v1
kind: ServiceAccount
metadata:
  name: backend-2
---
apiVersion: v1
kind: Service
metadata:
  name: backend-2
  annotations:
    openyurt.io/topologyKeys: openyurt.io/nodepool # Configure the node pool topology
  labels:
    app: backend-2
    service: backend-2
spec:
  ports:
    - name: http
      port: 3000
      targetPort: 3000
  selector:
    app: backend-2
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: backend-2
spec:
  replicas: 1
  selector:
    matchLabels:
      app: backend-2
      version: v1
  template:
    metadata:
      labels:
        app: backend-2
        version: v1
    spec:
      serviceAccountName: backend-2
      containers:
        - image: registry-cn-hangzhou.ack.aliyuncs.com/ack-demo/envoygateway-echo-basic:v20231214-v1.0.0-140-gf544a46e
          imagePullPolicy: IfNotPresent
          name: backend-2
          ports:
            - containerPort: 3000
          env:
            - name: POD_NAME
              valueFrom:
                fieldRef:
                  fieldPath: metadata.name
            - name: NAMESPACE
              valueFrom:
                fieldRef:
                  fieldPath: metadata.namespace

Etapa 2: confirme o GatewayClass

Após instale o componente Gateway with Inference Extension, um GatewayClass é criado por padrão. Execute o comando a seguir para confirme:

kubectl get gatewayclass

Saída esperada:

NAME          CONTROLLER                                      ACCEPTED   AGE
ack-gateway   gateway.envoyproxy.io/gatewayclass-controller   True       2m31s

Se o recurso GatewayClass não for encontrado, crie-o manualmente. Salve o exemplo a seguir como gatewayclass.yaml e execute o comando kubectl apply -f gatewayclass.yaml para criá-lo.

apiVersion: gateway.networking.k8s.io/v1
kind: GatewayClass
metadata:
  name: ack-gateway
spec:
  controllerName: gateway.envoyproxy.io/gatewayclass-controller

Etapa 3: crie uma configuração personalizada de EnvoyProxy

Em um cluster ACK Edge, crie uma configuração personalizada de EnvoyProxy para cada node pool a fim de especifique o node pool de agendamento dos pods do data plane e o método de exposição do service.

Substitua NPXXX no exemplo a seguir pelo ID real do seu node pool. Em seguida, salve a configuração como gateway-config.yaml e execute o comando kubectl apply -f gateway-config.yaml.

Você encontra o ID do node pool na página Node Management > Node Pools no ACK console.

apiVersion: gateway.envoyproxy.io/v1alpha1
kind: EnvoyProxy
metadata:
  name: custom-proxy-config
spec:
  provider:
    type: Kubernetes
    kubernetes:
      envoyDeployment:
        pod:
          nodeSelector:
            alibabacloud.com/nodepool-id: NPXXX  # Replace with your actual node pool ID
      envoyService:
        annotations:
          openyurt.io/topologyKeys: openyurt.io/nodepool  # Configure the service topology
        type: NodePort  # ACK Edge uses NodePort to expose services

Esta configuração inclui três definições importantes para cenários ACK Edge:

Etapa 4: crie o recurso Gateway

Salve o exemplo a seguir como gateway.yaml e execute o comando kubectl apply -f gateway.yaml.

O control plane do componente cria automaticamente um deployment de EnvoyProxy e um service NodePort com base no recurso Gateway. Também inicia um listener na porta especificada do nó.

apiVersion: gateway.networking.k8s.io/v1
kind: Gateway
metadata:
  name: ack-gateway
spec:
  gatewayClassName: ack-gateway
  listeners:
    - name: http
      protocol: HTTP
      port: 80
  infrastructure:
    parametersRef:
      group: gateway.envoyproxy.io
      kind: EnvoyProxy
      name: custom-proxy-config  # Associate with the custom configuration created in Step 3

Etapa 5: obtenha o endpoint do gateway

O service do gateway é exposto como NodePort. O endpoint de service correspondente é o endereço IP de qualquer nó no node pool e sua porta de service.

1. Consulte a porta do service.

   kubectl get service -n kube-system -l gateway.envoyproxy.io/owning-gateway-name=ack-gateway

   Saída esperada:

   NAME                                 TYPE       CLUSTER-IP       EXTERNAL-IP   PORT(S)        AGE
   envoy-default-ack-gateway-7452df7d   NodePort   192.168.86.174   <none>        80:30364/TCP   19m

2. Defina a variável de ambiente do host do gateway. Substitua NODEIP pelo endereço IP de qualquer nó no node pool e NODEPORT pelo número da porta obtido na etapa anterior.export GATEWAY_HOST=NODEIP:NODEPORT