O PAI-EAS oferece diversos métodos de acesso e dois protocolos de comunicação. Combine essas opções para atender aos seus requisitos de rede e desempenho.
Guia de cenários
Após a implantação de um service, a invocação ocorre por padrão via gateway compartilhado sobre HTTP, sem necessidade de configuração adicional. Use o guia abaixo para localizar rapidamente as informações adequadas ao seu cenário:
Início rápido: Se o service já estiver implantado e você quiser invocá-lo pelo gateway compartilhado padrão, consulte Invoke a service through a gateway.
Outros métodos de acesso: Caso o gateway compartilhado não atenda às suas necessidades, conheça alternativas como gateway dedicado, conexão direta VPC, Network Load Balancer (NLB) ou descoberta de service (Nacos). Para mais detalhes, veja Escolha an access method abaixo.
Protocolo gRPC: Para usar o protocolo binário gRPC, reduzir a sobrecarga de rede e melhorar o desempenho de inferência, consulte Invoke a PAI-EAS inference service over gRPC.
Funcionamento
O fluxo geral de dados em uma invocação de service do PAI-EAS segue estas etapas:
Envio da requisição pelo cliente: Sua aplicação envia uma requisição de inferência para o endpoint do service PAI-EAS. Esse endpoint pode ser um gateway ou um endereço de conexão direta.
Roteamento pelo endpoint: A requisição é encaminhada a uma instância de service no backend conforme o método escolhido: gateway compartilhado, gateway dedicado, conexão direta VPC, NLB ou Nacos. Em gateways, a camada correspondente gerencia o balanceamento de carga e o roteamento. Na conexão direta, o próprio cliente seleciona a instância de destino.
Processamento pela instância de service: Ao receber a requisição, o processo do service de modelo executa o cálculo de inferência e retorna o resultado serializado no formato especificado, como JSON ou Protobuf.
Recebimento da resposta pelo cliente: Após obter o resultado da inferência, o cliente analisa os dados e prossegue com sua lógica de negócio.
Métodos de acesso
Selecione o método de acesso mais adequado ao seu caso de uso.
|
Cenário |
Método recomendado |
Caminho de rede |
Custo de configuração |
|
Validação rápida, services com baixo tráfego |
Internet ou VPC via gateway compartilhado |
Gratuito, configuração simples |
|
|
Alta segurança, alta estabilidade e alto tráfego |
Internet ou VPC via gateway dedicado |
Exige criação e configuração do gateway. Sujeito a taxas adicionais. |
|
|
Baixa latência e alta concorrência, com cliente e service PAI-EAS na mesma VPC |
Conexão direta às instâncias de service na mesma VPC, sem passar pelo gateway |
Requer configuração de VPC |
|
|
Alto tráfego com balanceamento de carga |
Encaminhamento via NLB (o NLB e o service PAI-EAS devem estar na mesma VPC) |
Necessita criar ou associar um NLB |
|
|
Sistema existente de governança de services baseado em Nacos |
Registro e descoberta via Nacos (a instância Nacos e o service PAI-EAS devem estar na mesma VPC) |
É necessário fornecer uma instância Nacos. |
Após configure VPC, vSwitch e grupo de segurança para um service PAI-EAS:
Sem restrição por regras de grupo de segurança: No acesso ao PAI-EAS por gateway compartilhado ou dedicado, as regras de grupo de segurança não se aplicam. Em gateways dedicados, configure listas de permissões para controlar o acesso.
Sujeito a regras de grupo de segurança: No acesso ao PAI-EAS por NLB, Nacos ou conexão direta VPC, todo o tráfego — incluindo o tráfego de saída do PAI-EAS — obedece às regras do grupo de segurança.
Protocolos de comunicação
O PAI-EAS suporta dois protocolos de comunicação. O protocolo disponível depende do tipo de service implantado:
HTTP/JSON (Padrão): Ativado automaticamente após a implantação. Adequado para a maioria dos casos de uso.
gRPC: Protocolo binário de alto desempenho, indicado para cenários sensíveis a latência ou inferência em streaming. Ative-o manualmente durante a implantação.
FAQ
Acesso entre regiões e faturamento
P: Como acessar um service em outra região pela rede privada (usando o endpoint VPC do gateway)?
Quando o service PAI-EAS e o cliente estão em VPCs diferentes e em regiões distintas, a abordagem varia conforme o tipo de gateway:
Application Dedicated Gateway: Basta estabelecer conectividade de rede entre VPCs usando um service como CEN ou VPC Peering Connection. Para mais informações, consulte VPC interconnection.
Fully Managed Dedicated Gateway: Além de estabelecer a conectividade entre VPCs, associe a VPC do cliente ao gateway dedicado. Para mais detalhes, veja Access a fully managed dedicated gateway from another VPC.
P: Há cobrança de tráfego entre regiões em conexões privadas VPC? Quais as vantagens em relação à Internet?
Sim. Ao estabelecer uma conexão entre regiões pela rede privada, há cobrança pelo tráfego inter-regional. O custo exato depende do método de interconexão utilizado. Uma conexão privada VPC oferece as seguintes vantagens em comparação ao acesso pela Internet:
Maior segurança: O service não fica exposto à Internet, o que reduz riscos de segurança.
Maior velocidade e menor latência: A rede privada garante qualidade de link estável.
Custos de tráfego reduzidos: As tarifas de tráfego em rede privada costumam ser inferiores às da Internet.
Para ambientes de produção, recomendamos o uso de endpoints VPC privados no acesso entre regiões.
Invocação entre services
Se sua aplicação estiver implantada em um contêiner PAI-EAS e precisar invocar outros services do PAI-EAS, observe os pontos abaixo:
Requisitos de autenticação: Todas as requisições devem incluir um Authorization Token válido no cabeçalho, independentemente do uso de endpoint público ou privado VPC.
Causas comuns de falha: Por padrão, services PAI-EAS não têm acesso à Internet. Tentativas de invocar outros services PAI-EAS pelos endpoints públicos falharão. Para resolver, consulte Configure network access for PAI-EAS services. Em caso de erros 401, 502 ou outros códigos, veja Appendix: Service status codes and common errors para solução de problemas.
Prática recomendada: Use endpoints VPC privados para invocação entre services dentro do PAI-EAS, garantindo conectividade de rede e segurança.