Introdução à Gateway API - Container Service for Kubernetes: Central de Documentação do Alibaba Cloud

A Gateway API é um padrão da comunidade Kubernetes para gerenciamento de tráfego. Ela oferece suporte ao gerenciamento de tráfego norte-sul baseado em Ingress e ao tráfego leste-oeste baseado em Service Mesh. Este tópico descreve os conceitos principais da Gateway API e as soluções de tráfego norte-sul disponíveis no ACK.

Conceitos principais

A Gateway API adota um design em camadas orientado a funções que desacopla o provisionamento de infraestrutura, a O&M do cluster e o roteamento de aplicações:

GatewayClass (Camada de infraestrutura): Assim como a IngressClass, define o tipo de controlador de gateway, como ALB ou Envoy Gateway, e as configurações gerais.
Gateway (Camada de O&M): Define uma instância de gateway e suas regras de listener, incluindo portas, protocolos e configurações TLS.
HTTPRoute, GRPCRoute e outros tipos de rota (Camada de aplicação): Especificam regras de roteamento de tráfego, como correspondência de caminho, modificação de cabeçalho e ponderação de tráfego, vinculadas aos services de backend.
Policy (Camada de política): Estabelece configurações como circuit breaking, limitação de taxa e autenticação JWT. Pode ser anexada a um gateway, rota ou service de backend.

Soluções de Gateway API no ACK

Escolha uma solução de Gateway API conforme as necessidades do seu negócio:

Solução	Gateway with Inference Extension	ALB (Application Load Balancer)
Visão geral	O Gateway with Inference Extension baseia-se no Envoy Gateway open source, otimizado para cenários cloud-native e de inferência de IA. Monitora recursos da Gateway API para gerenciar dinamicamente gateways e tráfego norte-sul. Não é totalmente gerenciado: executa nos nós do cluster, exige O&M e não possui SLA de product cloud.	O ALB Ingress Controller oferece suporte à Gateway API a partir da versão v2.17.0. Configure recursos como Gateway e HTTPRoute para rotear tráfego externo para workloads no cluster. O controlador converte alterações da Gateway API em regras de listener do ALB, regras de roteamento e configurações de server group em tempo real.
Cenários	Tráfego geral e inferência de IA	Tráfego geral
Vantagens principais	Arquitetura Envoy open source padrão: Acompanha a versão upstream mais recente do Envoy Gateway. Baseia-se no proxy Envoy, com um ecossistema maduro e de alto desempenho para tráfego em grande escala. Recursos avançados de gerenciamento de tráfego: Oferece limitação de taxa, circuit breaking e roteamento no nível de zona, além de funcionalidades como injeção de falhas, espelhamento de tráfego, compressão e cache. Extensão para inferência de IA: Proporciona balanceamento de carga ciente do modelo com políticas de agendamento como LoRA/KV Cache-aware, Waiting Request Num e Model Priority. Permite lançamentos graduais de versões de modelos. Extensibilidade flexível: Integra-se a métodos de extensão do Envoy Gateway, como EnvoyFilter, Lua, Wasm e ExtProc, para gerenciamento personalizado de tráfego.	Totalmente gerenciado: Gateway e componentes totalmente gerenciados, o que reduz a complexidade e os custos de O&M. Alto desempenho e elasticidade instantânea: Baseia-se na pilha de virtualização de rede da Alibaba Cloud, com alto throughput de QPS e desempenho de conexões simultâneas. Dimensiona automaticamente conforme a carga de tráfego. Roteamento avançado na camada de aplicação: Profundamente integrado aos serviços de contêiner, com suporte a regras avançadas de roteamento para tráfego da camada de aplicação. Atualizações contínuas e zero downtime: Ajuste dinamicamente as regras de encaminhamento via OpenAPI. As alterações entram em vigor em tempo real sem reinicialização de instâncias, garantindo zero downtime do service. Amplo suporte a cenários: Lida com conexões persistentes, alta concorrência de conexões, alto QPS, picos de tráfego, atualizações contínuas, hot upgrades, redundância ativa entre zonas e redundância ativa geográfica.
Referências	Gerencie general traffic using Gateway with Inference Extension Gerencie LLM traffic using Gateway with Inference Extension	Gerencie general traffic using ALB