Gestión de la Gateway API - Container Service for Kubernetes - Centro de documentación de Alibaba Cloud

La Gateway API es un estándar de la comunidad de Kubernetes para la gestión del tráfico. Admite tanto la gestión del tráfico norte-sur basada en Ingress como la gestión del tráfico este-oeste basada en Service Mesh. Este tema describe los conceptos principales de la Gateway API y las soluciones de tráfico norte-sur disponibles en ACK.

Conceptos principales

La Gateway API utiliza un diseño por capas orientado a roles que desacopla el aprovisionamiento de infraestructura, la operación y mantenimiento del clúster y el enrutamiento de aplicaciones:

GatewayClass (capa de infraestructura): al igual que IngressClass, define el tipo de controlador de gateway, como ALB o Envoy Gateway, junto con sus configuraciones generales.
Gateway (capa de operación y mantenimiento): define una instancia de gateway y sus reglas de escucha, como puertos, protocolos y configuraciones de TLS.
HTTPRoute, GRPCRoute y otros tipos de rutas (capa de aplicación): definen las reglas de enrutamiento del tráfico adjuntas a los servicios de backend, como la coincidencia de rutas, la modificación de encabezados y la ponderación del tráfico.
Policy (capa de políticas): define configuraciones como corte de circuito, limitación de velocidad y autenticación JWT. Se puede adjuntar a un gateway, a una ruta o a un servicio de backend.

Soluciones de la Gateway API en ACK

Elija una solución de la Gateway API según sus necesidades de negocio:

Solución	Gateway with Inference Extension	ALB (Application Load Balancer)
Descripción general	Gateway with Inference Extension se basa en Envoy Gateway de código abierto y está optimizado para escenarios nativos de la nube y de inference de IA. Escucha los recursos de la Gateway API para gestionar dinámicamente los gateways y el tráfico norte-sur. No es un servicio totalmente administrado, ya que se despliega en los nodos del clúster, requiere operación y mantenimiento, y no cuenta con un SLA de producto de la nube.	ALB Ingress Controller admite la Gateway API a partir de la versión v2.17.0. Configure recursos como Gateway y HTTPRoute para enrutar el tráfico externo hacia las cargas de trabajo dentro del clúster. El controlador convierte los cambios de la Gateway API en reglas de escucha de ALB, reglas de enrutamiento y configuraciones de grupos de servidores en tiempo real.
Escenarios	Escenarios de tráfico general y de inference de IA	Escenarios de tráfico general
Ventajas principales	Arquitectura estándar de Envoy de código abierto: sigue la versión upstream más reciente de Envoy Gateway. Está construido sobre el proxy Envoy, con un ecosistema maduro y de alto rendimiento para tráfico a gran escala. Amplias funciones de gestión de tráfico: admite limitación de velocidad, corte de circuito y enrutamiento por zona, además de funciones como inyección de fallos, duplicación de tráfico, compresión y almacenamiento en caché. Extensión de inference de IA: ofrece balanceo de carga que reconoce el modelo con políticas de programación como LoRA/KV Cache-aware, Waiting Request Num y Model Priority. Admite lanzamientos graduales de versiones de modelos. Extensibilidad flexible: se integra con métodos de extensión de Envoy Gateway como EnvoyFilter, Lua, Wasm y ExtProc para personalizar la gestión del tráfico.	Totalmente administrado: el gateway y sus componentes están completamente administrados, lo que reduce la complejidad y los costos de operación y mantenimiento. Alto rendimiento y elasticidad instantánea: se basa en la pila de virtualización de red de Alibaba Cloud, con un alto rendimiento de QPS y conexiones concurrentes. Escala automáticamente según la carga de tráfico. Enrutamiento potente en la capa de aplicación: se integra profundamente con los servicios de contenedores y admite reglas de enrutamiento avanzadas para el tráfico de la capa de aplicación. Actualizaciones continuas sin tiempo de inactividad: ajuste las reglas de reenvío dinámicamente mediante openapi. Los cambios surten efecto en tiempo real sin reiniciar la instancia, lo que garantiza cero tiempo de inactividad del servicio. Compatibilidad con varios escenarios: gestione conexiones persistentes, alta concurrencia, QPS elevado, picos de tráfico, actualizaciones continuas, actualizaciones en caliente, redundancia activa entre zonas y redundancia geográfica activa.
Referencias	Manage general traffic using Gateway with Inference Extension Manage LLM traffic using Gateway with Inference Extension	Manage general traffic using ALB