使用Gateway with Inference Extension访问服务

在ACK Edge集群中，Envoy Gateway的部署方式与标准ACK集群有所不同：

当前部署配置了节点池打散策略，可通过组件管理调节副本数，确保每个节点池至少运行一个控制面副本。

步骤一：创建测试应用

将下方示例保存到backend.yaml，执行 kubectl apply -f backend.yaml，创建测试应用backend和backend-2。

ACK Edge场景需要配置服务拓扑。在Service中需添加 openyurt.io/topologyKeys: openyurt.io/nodepool 注解，确保流量只会转发到同一节点池内的Pod。详情参见节点池服务拓扑管理。

apiVersion: v1
kind: ServiceAccount
metadata:
  name: backend
---
apiVersion: v1
kind: Service
metadata:
  name: backend
  annotations:
    openyurt.io/topologyKeys: openyurt.io/nodepool # 配置节点池拓扑
  labels:
    app: backend
    service: backend
spec:
  ports:
    - name: http
      port: 3000
      targetPort: 3000
  selector:
    app: backend
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: backend
spec:
  replicas: 1
  selector:
    matchLabels:
      app: backend
      version: v1
  template:
    metadata:
      labels:
        app: backend
        version: v1
    spec:
      serviceAccountName: backend
      containers:
        - image: registry-cn-hangzhou.ack.aliyuncs.com/ack-demo/envoygateway-echo-basic:v20231214-v1.0.0-140-gf544a46e
          imagePullPolicy: IfNotPresent
          name: backend
          ports:
            - containerPort: 3000
          env:
            - name: POD_NAME
              valueFrom:
                fieldRef:
                  fieldPath: metadata.name
            - name: NAMESPACE
              valueFrom:
                fieldRef:
                  fieldPath: metadata.namespace
---
apiVersion: v1
kind: ServiceAccount
metadata:
  name: backend-2
---
apiVersion: v1
kind: Service
metadata:
  name: backend-2
  annotations:
    openyurt.io/topologyKeys: openyurt.io/nodepool # 配置节点池拓扑
  labels:
    app: backend-2
    service: backend-2
spec:
  ports:
    - name: http
      port: 3000
      targetPort: 3000
  selector:
    app: backend-2
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: backend-2
spec:
  replicas: 1
  selector:
    matchLabels:
      app: backend-2
      version: v1
  template:
    metadata:
      labels:
        app: backend-2
        version: v1
    spec:
      serviceAccountName: backend-2
      containers:
        - image: registry-cn-hangzhou.ack.aliyuncs.com/ack-demo/envoygateway-echo-basic:v20231214-v1.0.0-140-gf544a46e
          imagePullPolicy: IfNotPresent
          name: backend-2
          ports:
            - containerPort: 3000
          env:
            - name: POD_NAME
              valueFrom:
                fieldRef:
                  fieldPath: metadata.name
            - name: NAMESPACE
              valueFrom:
                fieldRef:
                  fieldPath: metadata.namespace

步骤二：确认GatewayClass

安装Gateway with Inference Extension组件后会默认创建GatewayClass。执行以下命令确认：

kubectl get gatewayclass

预期输出：

NAME          CONTROLLER                                      ACCEPTED   AGE
ack-gateway   gateway.envoyproxy.io/gatewayclass-controller   True       2m31s

如果未发现 GatewayClass资源，需手动创建。将下方示例保存到gatewayclass.yaml，执行 kubectl apply -f gatewayclass.yaml创建。

apiVersion: gateway.networking.k8s.io/v1
kind: GatewayClass
metadata:
  name: ack-gateway
spec:
  controllerName: gateway.envoyproxy.io/gatewayclass-controller

步骤三：创建自定义EnvoyProxy配置

在ACK Edge集群中，需要为每个节点池创建自定义 EnvoyProxy 配置，指定数据面 Pod 的调度节点池和服务暴露方式。

将下方示例中的 NPXXX 替换为实际的节点池ID，然后保存到gateway-config.yaml，执行 kubectl apply -f gateway-config.yaml。

可在ACK控制台的节点管理 > 节点池页面查看节点池 ID。

apiVersion: gateway.envoyproxy.io/v1alpha1
kind: EnvoyProxy
metadata:
  name: custom-proxy-config
spec:
  provider:
    type: Kubernetes
    kubernetes:
      envoyDeployment:
        pod:
          nodeSelector:
            alibabacloud.com/nodepool-id: NPXXX  # 替换为实际的节点池 ID
      envoyService:
        annotations:
          openyurt.io/topologyKeys: openyurt.io/nodepool  # 配置服务拓扑
        type: NodePort  # ACK Edge 使用 NodePort 暴露服务

该配置包含三个ACK Edge场景的关键设置：

步骤四：创建Gateway资源

将下方示例保存到gateway.yaml，执行 kubectl apply -f gateway.yaml。

组件控制面会根据Gateway资源自动创建EnvoyProxy Deployment和NodePort类型的Service，并在节点上指定端口开启监听。

apiVersion: gateway.networking.k8s.io/v1
kind: Gateway
metadata:
  name: ack-gateway
spec:
  gatewayClassName: ack-gateway
  listeners:
    - name: http
      protocol: HTTP
      port: 80
  infrastructure:
    parametersRef:
      group: gateway.envoyproxy.io
      kind: EnvoyProxy
      name: custom-proxy-config  # 关联步骤三创建的自定义配置

步骤五：获取网关地址

网关服务采用NodePort方式暴露，对应的服务地址为节点池内任一节点IP和服务的端口。

1. 查询Service端口。

   kubectl get service -n kube-system -l gateway.envoyproxy.io/owning-gateway-name=ack-gateway

   预期输出：

   NAME                                 TYPE       CLUSTER-IP       EXTERNAL-IP   PORT(S)        AGE
   envoy-default-ack-gateway-7452df7d   NodePort   192.168.86.174   <none>        80:30364/TCP   19m

2. 设置网关地址环境变量。将NODEIP替换为节点池内任一节点的IP地址，NODEPORT替换为上一步查询到的端口号。

   export GATEWAY_HOST=NODEIP:NODEPORT