Access DSW services over the public network - Platform For AI: Central de Documentação do Alibaba Cloud

Se você tiver um serviço, como uma API de modelo ou uma WebUI, em execução em uma instância do DSW, poderá expô-lo à internet para acesso direto pelo navegador, compartilhamento sem login com colaboradores para testes ou chamadas de redes externas. O DSW viabiliza isso por meio do recurso de serviço personalizado, que configura o acesso à rede pública. Observação: Este recurso destina-se apenas a fins de desenvolvimento e teste.

Considerações importantes

Custos adicionais se aplicam: Configurar o acesso à rede pública exige um NAT Gateway e um Elastic IP Address (EIP). Esses serviços são cobrados separadamente.
Tipos de instância suportados: Este recurso está disponível para instâncias em grupos de recursos públicos (com especificações de recursos que não começam com ecs.ebm) e instâncias de computação inteligente Lingjun. Configure no máximo cinco serviços personalizados por instância.
A parada do DSW interrompe os serviços: Parar uma instância do DSW torna seus serviços internos e o respectivo acesso à rede pública indisponíveis.
PAI-EAS recomendado para produção: Recomendamos implantar seu modelo no PAI-EAS para serviços de produção que exigem estabilidade, alta disponibilidade e Auto Scaling.

Como funciona

Para tornar um serviço em uma instância do DSW, como uma API na porta 9000, acessível publicamente, os seguintes recursos devem funcionar em conjunto:

Elastic IP Address (EIP): Fornece um endereço IP público fixo, por exemplo, 121.40.**.**, que atua como ponto de entrada para o acesso à rede pública.
NAT Gateway: Reside na sua VPC e mapeia solicitações públicas de EIP:port para o private IP:port da instância do DSW.
Grupo de segurança: Funciona como um firewall virtual para sua instância do DSW. Adicione explicitamente uma regra para permitir tráfego público na porta específica em que seu serviço está escutando, como a porta 9000. Esta é uma etapa crítica para o sucesso do acesso.

Fluxo principal: Public user (browser/tool) -> EIP:port -> NAT Gateway -> vSwitch -> security group rule check -> DSW instance private IP:port -> Your service

Faturamento

O faturamento do NAT Gateway e do EIP começa na criação.
Mesmo quando uma instância do DSW está parada, o NAT Gateway e o EIP associados continuam a gerar custos até que você os exclua.
Instâncias do DSW com pagamento conforme o uso são cobradas com base no estado de execução e não geram custos quando paradas.

Configure o acesso à rede pública

Configure durante a criação da instância

Crie uma instância do DSW e configure os seguintes parâmetros de rede principais.
- Na seção Network Information, selecione sua VPC e grupo de segurança. Crie esses recursos seguindo as etapas abaixo. Para mais informações, consulte Criar uma VPC e um vSwitch e Gerenciar grupos de segurança. A VPC e o grupo de segurança devem estar na mesma região da instância do DSW.
  Criar VPC, vSwitch e grupo de segurança
  Na página de configuração do DSW, clique em Create VPC.
  
  Configure o nome da VPC, o bloco CIDR IPv4 e as informações do vSwitch. Mantenha os valores padrão para outros parâmetros e clique em OK para criar a VPC e o vSwitch.
  
  Selecione a VPC recém-criada na lista VPC Settings.
  
  Clique em Create Security Group, mantenha os valores padrão dos parâmetros e clique em Create. Em seguida, retorne à página de configuração do DSW e selecione o grupo de segurança recém-criado na lista Security Group ID.
  
  Certifique-se de que o grupo de segurança permita acesso de entrada na porta 22.
- Na seção Service Access and Port Configuration, clique em Add. Insira um Service Name e a Listener Port (por exemplo, 9000). Marque a caixa de seleção Access over Internet e defina a Internet Access Port (por exemplo, 9000). Clique em DNAT+EIP e selecione seu NAT Gateway e EIP. Crie um NAT Gateway e um EIP seguindo as etapas abaixo. O NAT Gateway e o EIP devem estar na mesma região da instância do DSW.
  Criar um NAT gateway e um EIP
  Clique em Create NAT Gateway.
  
  Na página de criação do NAT gateway, configure os parâmetros ou use os valores padrão. Em seguida, clique em Create EIP.
  
  Na página de criação do elastic IP address, configure os parâmetros ou use os valores padrão. Em seguida, clique em Buy Now.
  
  Retorne à página de criação do NAT gateway. Em Elastic IP Address Instance, selecione a instância recém-criada. Depois, clique em Buy Now para criar o NAT gateway.
  Alternativamente, selecione a opção NLB. Ao criar uma instância NLB, defina o Instance Network Type como Public e selecione a mesma VPC da sua instância do DSW. Para mais informações, consulte Implementar rapidamente balanceamento de carga para serviços IPv4 usando NLB.
  
  Nota
  Se várias instâncias do DSW compartilharem o mesmo DNAT e EIP (ou NLB), use portas de acesso público diferentes para cada serviço.
Configure uma regra de entrada no grupo de segurança selecionado para permitir tráfego na porta do serviço. Para etapas detalhadas, consulte Adicionar uma regra de grupo de segurança. Configure os seguintes parâmetros principais:
- action: Allow
- protocol type: Selecione o protocolo com base no seu serviço, como TCP.
- port range: Insira a porta de escuta configurada, por exemplo, 9000/9000.
- source: 0.0.0.0/0 (permite acesso de todos os endereços IP públicos para fins de teste) ou um intervalo de IP específico conforme necessário. Para ambientes de produção, recomendamos fortemente restringir o intervalo de IP de origem.
  
  Após concluir a configuração, uma regra aparece na lista de regras Inbound do grupo de segurança com o protocolo definido como Custom TCP, o intervalo de portas definido como 9000/9000 e a origem definida como 0.0.0.0/0.

Configure para uma instância existente do DSW

Modifique a configuração de acesso à rede pública de uma instância existente do DSW de duas maneiras.

Observação: Para adicionar ou alterar recursos como VPC ou NAT Gateway, use a opção Change Settings, que requer a reinicialização da instância.

Página de detalhes

Na página de lista de instâncias do DSW, clique em no nome da instância para abrir sua página de detalhes, onde é possível modificar a configuração de acesso à rede pública.

Na seção Access Configuration da página de detalhes da instância, localize a linha Custom Service e clique em no botão Change Settings correspondente para configurar o acesso à rede pública. Se precisar abrir uma porta, obtenha o Security Group ID (por exemplo, sg-bp1g37d4lmajq...) na seção Network Information e adicione a regra necessária ao grupo de segurança.

Instância do DSW

No ambiente de desenvolvimento do DSW, clique em Change Settings na parte superior da página para modificar os serviços personalizados.

No painel de navegação à esquerda, clique em Access Configuration. A área Custom Service mostra os serviços configurados (por exemplo, nome do serviço gradio e porta 9000), suas URLs públicas e seus status. Clique em Change Settings para editar o serviço personalizado.

No painel de navegação à esquerda, clique em Network. Nas informações de configuração de rede à direita, localize e anote o Security Group ID (por exemplo, sg-bp1g37d4lmajugsicmz2). Esse ID será necessário para configurar as regras do grupo de segurança.

Teste a conectividade

Execute o seguinte comando no Terminal do DSW para iniciar o serviço HTTP integrado do Python.

# Create an HTML file with test content
echo 'Hello, World!' > index.html
# Start the built-in Python HTTP service (listening on port 9000)
python -m http.server 9000 --bind 0.0.0.0

Na página de detalhes da instância, verifique a seção Access Configurations para obter o endereço de acesso.

A tabela na seção Access Configuration contém endereços nas colunas VPC Access e Public Network Access. Os endereços de acesso ficam disponíveis quando o Configuration Status é Ready.

Para acesso à rede pública, copie o endereço de acesso público, como 121.40.**.**:9000, e abra-o em um navegador. Se o navegador exibir Hello, World!, o acesso ao serviço foi configurado com sucesso.

Recomendações para ambientes de produção

Apenas para desenvolvimento e teste: O recurso de acesso à rede pública do DSW foi projetado para testes temporários e depuração colaborativa.
Implante em ambientes de produção usando o EAS: Implante serviços de inferência de produção no PAI-EAS. O EAS oferece:
- Alta disponibilidade e balanceamento de carga.
- Auto Scaling para lidar com flutuações de tráfego.
- Monitoramento e alertas abrangentes, gerenciamento de versões e lançamentos canário.
- Integração otimizada de acesso à rede pública e modelos de faturamento. Para mais informações, consulte Implantar modelos como serviços online.
Economize custos:
- Após parar uma instância do DSW: O faturamento da própria instância do DSW (pagamento conforme o uso) é interrompido. No entanto, os recursos NAT Gateway e EIP continuam a gerar custos enquanto existirem.
- Se não usar o acesso à rede pública por muito tempo: Caso não precise mais dele, exclua o NAT Gateway e o EIP configurados para o DSW para interromper as cobranças relacionadas. Faça isso no console da VPC e no console do EIP.

Perguntas frequentes

P: Configurei o acesso à rede pública, mas a conexão falha com erros como This site can't be reached, Connection refused ou Timeout. Por quê?

Etapa 1: Verifique as regras do grupo de segurança (Motivo mais comum)
- Certifique-se de que uma regra de entrada foi adicionada ao grupo de segurança.
- Verifique se o intervalo de portas da regra inclui a porta configurada, como 9000.
- Confirme se a origem da regra inclui seu endereço IP público ou 0.0.0.0/0.
- Verifique se o tipo de protocolo (TCP/UDP) está correto.
Etapa 2: Confirme se o serviço está em execução e escutando na porta correta
- No terminal da instância do DSW, execute netstat -tunlp | grep <port_number>, como netstat -tunlp | grep 9000, para verificar se a porta está sendo escutada.
- Garanta que o processo do serviço da aplicação esteja em execução e escutando na porta configurada.
Etapa 3: Verifique o status do NAT Gateway e do EIP
- No console da VPC, confirme se o status do NAT Gateway é Running.
- No console do EIP, confirme se o EIP associado está Associated e não possui pagamentos pendentes.
Etapa 4: Teste localmente: Dentro da instância do DSW, execute curl http://localhost:<port_number> ou curl http://<instance_private_IP>:<port_number> para verificar se o serviço responde.
Etapa 5: Use ferramentas de diagnóstico de rede:
- A VPC da Alibaba Cloud fornece o Network Intelligence Service (NIS) para ajudar a solucionar problemas de caminho. Este serviço requer ativação.
- Na instância do DSW, execute telnet <EIP> <port> para testar a conectividade da porta. Instale o telnet primeiro.

P: Após parar uma instância do DSW, ainda serei cobrado pela configuração de acesso à rede pública?

Sim. Uma instância do DSW parada com pagamento conforme o uso não gera custos. No entanto, os recursos associados de NAT Gateway e EIP são cobrados independentemente enquanto não forem excluídos. Para evitar cobranças desnecessárias, exclua esses recursos manualmente.

P: Um único EIP pode ser mapeado para várias portas?

Sim. Várias portas de serviço (até cinco) para uma única instância do DSW podem ser mapeadas através do mesmo EIP e NAT Gateway. Para acessar um serviço, use o formato EIP:port_number.

P: Por que não consigo encontrar a VPC ou o NAT Gateway que criei na lista suspensa?

O motivo mais comum é a incompatibilidade de região. Verifique o canto superior esquerdo da página do DSW para garantir que a região atual corresponda à região da sua VPC ou NAT Gateway. O DSW só pode ser configurado com recursos na mesma região.
A lista suspensa pode não estar atualizada. Se você criou recentemente a VPC ou o NAT Gateway, aguarde a conclusão da criação do recurso. Em seguida, na página de configuração do DSW, clique em no botão de atualização para recarregar a lista.