Visão geral da Gateway API - Container Service for Kubernetes: Central de Documentação do Alibaba Cloud

A Gateway API é o padrão oficial de gerenciamento de tráfego da comunidade Kubernetes. Ela suporta o gerenciamento de tráfego norte-sul baseado em Ingress e o tráfego leste-oeste baseado em Service Mesh. Este tópico descreve os conceitos principais da Gateway API e suas soluções para gerenciamento de tráfego norte-sul.

Conceitos principais

A Gateway API adota um design em camadas orientado a funções que desacopla o provisionamento de infraestrutura, as operações do cluster e o roteamento de aplicações. Ela inclui os seguintes recursos principais:

GatewayClass (Camada de infraestrutura): Semelhante à IngressClass. Define o tipo de controlador de gateway, como ALB ou Envoy Gateway, e as configurações gerais.
Gateway (Camada de operações): Especifique uma instância de gateway e suas regras de listener de rede, incluindo porta, protocolo e configurações TLS.
HTTPRoute, GRPCRoute, etc. (Camada de aplicação): Definem regras específicas de roteamento de tráfego, como correspondência de caminho, modificação de cabeçalho e ponderação de tráfego, além de especificar um serviço de backend.
Policy (Camada de política): Defina um conjunto de configurações ou comportamentos específicos, como circuit breaking, limitação de taxa e autenticação JWT. É possível anexar políticas a um gateway, rota ou serviço de backend específico.

Soluções de Gateway API no ACK

Em um cluster ACK, selecione a solução de Gateway API adequada às necessidades do seu negócio:

Solução	Gateway with Inference Extension	ALB (Application Load Balancer)
Visão geral	O Gateway with Inference Extension é um componente construído sobre o projeto open source Envoy Gateway, otimizado para cenários nativos da nuvem e de inferência de IA. Ele monitora recursos da Gateway API para criar e excluir gateways dinamicamente, gerenciando o tráfego norte-sul do cluster. Esse componente não é gerenciado; ele é implantado nos nós do seu cluster e exige manutenção autônoma. Não há garantia de Acordo de Nível de Serviço (SLA) de produto de nuvem associada.	O ALB Ingress Controller oferece suporte à Gateway API desde a versão v2.17.0. Configure recursos como Gateway e HTTPRoute para rotear tráfego externo da camada 7 para workloads (pods) gerenciados por serviços dentro do cluster e controlar o tráfego norte-sul. O ALB Ingress Controller detecta alterações nos recursos da Gateway API e as converte em tempo real em regras de listener, regras de roteamento e configurações de grupo de servidores para a instância ALB subjacente.
Cenários	Tráfego geral e inferência de IA	Tráfego geral
Vantagens principais	Arquitetura padrão Envoy open source: Mantém alinhamento com a versão upstream mais recente da comunidade Envoy Gateway. Construído sobre o proxy Envoy, seu ecossistema maduro e alto desempenho facilitam o gerenciamento de tráfego em grande escala. Recursos avançados de gerenciamento de tráfego: Oferece diversas regras de limitação de taxa e circuit breaking. Inclui capacidades robustas de roteamento, inclusive no nível de zona, além de funcionalidades comuns como injeção de falhas, espelhamento de tráfego, compressão e cache. Extensão para inferência de IA: Proporciona balanceamento de carga ciente do modelo para serviços de inferência de grandes modelos. Suporta várias políticas de agendamento baseadas em modelo, como LoRA/KV Cache-aware scheduling, Waiting Request Num e Model Priority. Também habilita liberações graduais para múltiplas versões de modelos. Extensibilidade flexível: Integra-se nativamente ao Envoy Gateway para suportar diversos métodos de extensão, como EnvoyFilter, Lua, Wasm e ExtProc, atendendo a necessidades específicas de gerenciamento de tráfego.	Totalmente gerenciado: Adota um design integrado e totalmente gerenciado tanto para o gateway quanto para seus componentes, reduzindo significativamente a complexidade e os custos de O&M. Alto desempenho e elasticidade instantânea: Baseado na pilha de virtualização de rede desenvolvida pela Alibaba Cloud. Entrega excelente throughput de consultas por segundo (QPS) e desempenho no processamento de conexões simultâneas. Além disso, permite scale-out automático conforme a carga de tráfego para absorver picos de demanda. Roteamento avançado na camada de aplicação: Projetado para cenários de carga na camada de aplicação. Possui integração profunda com o serviço de contêiner e suporta uma ampla variedade de regras avançadas de roteamento. Atualizações a quente e zero downtime: Permite atualizações de configuração a quente. Ajuste regras de encaminhamento dinamicamente via OpenAPI. As alterações entram em vigor em tempo real sem reinicializar instâncias, garantindo zero downtime para o tráfego do serviço. Amplo espectro de cenários suportados: Adequado para situações que envolvem conexões persistentes, alta concorrência de conexões, QPS elevado, tráfego flutuante, dependência de atualizações e upgrades a quente, além de recuperação de desastres com redundância ativa entre zonas ou redundância geográfica ativa.
Referências	Gerenciar tráfego geral usando o Gateway with Inference Extension Gerenciar tráfego de LLM usando o Gateway with Inference Extension	Gerenciar tráfego geral usando o ALB