PrivateLink:Access PAI-EAS inference services across regions

Etapa 1: Crie um endpoint service na China (Shanghai)

Crie um endpoint service para o gateway dedicado do PAI-EAS para que outras regiões possam acessá-lo por meio do PrivateLink.

Para uma conexão entre contas no endpoint service, adicione a conta consumidora do service à lista de permissões do endpoint service.

1. Acesse a página PrivateLink - Endpoint Services no console da VPC e altere a região para China (Shanghai).

2. Clique em Create Endpoint Service, configure os seguintes parâmetros, clique em OK e aguarde até que o status do service se torne Running.

   • Service Resource Type: Selecione ALB.

   • Select Service Resource: Selecione a instância ALB associada ao gateway dedicado do PAI-EAS. É recomendável que as zonas do service resource cubram as zonas da instância ALB.

   • Supported Regions: Adicione China (Hangzhou) para que essa região possa criar uma conexão de endpoint com o endpoint service.

   • Automatically Accept Endpoint Connections: Selecione Yes. O sistema aprova automaticamente as solicitações de conexão de endpoint; portanto, não é necessário clicar manualmente em Allow na página de detalhes da conexão de endpoint.

     Caso selecione No , o provedor do service deve acessar a página de detalhes do endpoint service criado na etapa 1. Na aba Endpoint Connections , localize o endpoint de destino e, na coluna Actions, clique em Allow para aceitar a conexão de endpoint do consumidor do service.

Etapa 2: Crie um endpoint entre regiões na China (Hangzhou)

Crie um endpoint na VPC consumidora e use um endpoint entre regiões para acessar o endpoint service na China (Shanghai).

1. Altere a região para China (Hangzhou). Acesse a página PrivateLink - Endpoints e clique em Create Endpoint.

2. Configure os seguintes parâmetros e clique em OK.

   • Endpoint Type: Selecione Interface Endpoint.

   • Type: Selecione Select Service.

   • Enable inter-region endpoint: Selecione esta opção e escolha China (Shanghai) como a região do service. O sistema exibirá os endpoint services desta conta na região selecionada, na lista Available Services.

   • Available Services: Selecione o endpoint service criado na etapa 1.

   • VPC: Selecione a VPC na China (Hangzhou) e certifique-se de que o vSwitch selecionado tenha endereços IP disponíveis.

Etapa 3: Configure a resolução de DNS privado

Aponte o registro CNAME do nome de domínio privado do gateway dedicado do EAS para o nome de domínio do endpoint de Hangzhou, para que o PrivateLink roteie automaticamente as solicitações na VPC de Hangzhou.

1. Obtenha o nome de domínio privado do gateway dedicado do EAS: Acesse o PAI console. Selecione Elastic Algorithm Service (EAS), clique na aba Inference Gateway, clique no nome do gateway dedicado de destino e obtenha o nome de domínio na aba VPC. O nome de domínio tem o seguinte formato: gw-xxxxxxxx-vpc.cn-shanghai.pai-eas.aliyuncs.com.

2. Obtenha o nome de domínio do endpoint: Obtenha o nome de domínio na página de detalhes do endpoint na China (Hangzhou). O nome de domínio tem o seguinte formato: ep-xxx.epsrv-xxx.cn-hangzhou.privatelink.aliyuncs.com.

3. Adicione um nome de domínio autoritativo privado: Acesse o console de DNS. Na página Private Zone, clique em Add Zone:

   • Authoritative Zone: Insira o nome de domínio do gateway dedicado do EAS, como gw-xxxxxxxx-vpc.cn-shanghai.pai-eas.aliyuncs.com.

   • Effective Scope: Selecione Effective in VPCs e escolha a VPC na China (Hangzhou) que precisa acessar o service de inferência.

4. Adicione um registro CNAME: Acesse a página de registros DNS do nome de domínio e clique em Add Record:

   • Record Type: Selecione CNAME.

   • Hostname: Insira @.

   • Record Value: Insira o nome de domínio do endpoint na China (Hangzhou) obtido na etapa 2.

Após a configuração da resolução CNAME, quando um cliente na VPC da China (Hangzhou) acessa o nome de domínio privado do gateway dedicado do EAS, o DNS resolve o nome de domínio para o nome de domínio do endpoint com base no registro CNAME. O tráfego da solicitação é encaminhado pela conexão do PrivateLink para o gateway dedicado na China (Shanghai) e, finalmente, chega ao service de inferência do PAI-EAS.

Etapa 4: Verifique a conectividade

A partir de uma instância ECS na VPC de Hangzhou, chame o service de inferência usando o endpoint da VPC do PAI-EAS:

Use -H "Authorization: <your-token>" para configurar a credencial do token para autorização. Substitua <your-token> pelo token do service da instância do PAI-EAS, obtido em Overview > Invocation Method > View Endpoint Information . Substitua <gateway-domain> pelo nome de domínio privado do gateway dedicado do EAS, <service-path> pelo caminho de acesso do service de inferência e <your-request-body> pelo corpo da solicitação que contém a entrada real para o service de inferência.

curl -v -X POST https://<gateway-domain>/<service-path> \
  -H "Authorization: <your-token>" \
  -d '<your-request-body>'

O recebimento de uma resposta do service de destino indica que a VPC de Hangzhou acessou com sucesso o service de inferência do EAS em Shanghai entre regiões por meio do PrivateLink. Este exemplo de chamada é apenas para referência. O método de solicitação, o corpo da solicitação e o conteúdo da resposta estão sujeitos ao service real. Para mais informações, consulte Invoke the service.