Os clusters do Alibaba Cloud Logstash operam em Virtual Private Clouds (VPCs) e não acessam a Internet por padrão. Para coletar dados da Internet ou enviá-los a destinos públicos, configure um NAT gateway no cluster Logstash.
O serviço NAT Gateway oferece dois recursos para essa finalidade:
DNAT (Destination Network Address Translation): permite que serviços na Internet enviem dados ao Logstash.
SNAT (Source Network Address Translation): permite que o Logstash acesse a Internet.
Para mais informações sobre o serviço NAT Gateway, consulte O que é o NAT Gateway?.
Limitações
Um NAT gateway suporta no máximo 20 endereços IP elásticos (EIPs).
É possível associar até 10 EIPs com pagamento conforme o uso a um NAT gateway, cada um com throughput máximo de 200 Mbit/s.
Para aumentar o limite de EIPs, envie um ticket.
Não é possível usar um EIP atribuído a uma entrada SNAT em uma entrada DNAT.
Pré-requisitos
Antes de começar, verifique se você tem:
Uma VPC e um vSwitch. Consulte Crie uma VPC com um bloco CIDR IPv4.
Um cluster do Alibaba Cloud Logstash. Consulte Crie um cluster do Alibaba Cloud Logstash.
Configure um NAT gateway
Etapa 1: Abrir a configuração do NAT gateway
Acesse a página Clusters Logstash no console do Alibaba Cloud Elasticsearch.
Na barra de navegação superior, selecione a região do cluster.
Na página Logstash Clusters, localize o cluster e clique em no respectivo ID.
No painel de navegação à esquerda, clique em Network and Security.
Na seção Network Settings, clique em Configure NAT Gateway.
Etapa 2: Crie um NAT gateway de Internet
Na página Internet NAT Gateway, clique em Create Internet NAT Gateway. Selecione a região e a VPC do cluster Logstash.
Para obter descrições detalhadas dos parâmetros, consulte Etapa 1: Crie um NAT gateway de Internet. Para uma visão geral das configurações do NAT gateway, consulte Crie e gerencie NAT gateways de Internet.
Etapa 3: Associar um EIP ao NAT gateway
Na página Internet NAT Gateway, localize o NAT gateway e escolha More > Associate EIP na coluna Actions.
Na caixa de diálogo Associate EIP, selecione Select Existing EIP e escolha um EIP disponível. Se não houver EIPs disponíveis, selecione Purchase and Associate EIP e clique em OK.
Clique em OK.
Etapa 4: Crie uma entrada DNAT
As entradas DNAT permitem que serviços na Internet enviem dados ao cluster Logstash.
Na página Internet NAT Gateway, localize o NAT gateway e clique em Configure DNAT na coluna Actions.
Clique em na aba DNAT Management.
Na seção DNAT Entry List, clique em Create DNAT Entry.
-
Configure os seguintes parâmetros:
Parâmetro
Descrição
Select EIP
Selecione um endereço IP público disponível. Não é possível reutilizar aqui um EIP já usado em uma entrada SNAT.
Select Private IP Address
Escolha Manual Input e insira o endereço IP de um nó do cluster Logstash. Para localizar os endereços IP dos nós, acesse a página Basic Information do cluster. Consulte Visualize as informações básicas de um cluster.
Port Settings
Defina um método de mapeamento DNAT: Any Port para mapeamento de endereço IP (todas as solicitações ao IP público são encaminhadas ao cluster) ou Custom Port para mapeamento de porta (as solicitações são encaminhadas com base em protocolos e portas específicos). Se selecionar Custom Port, configure também Public Port, Private Port e Protocol.
Entry Name
Insira um nome para a entrada DNAT. O nome deve ter de 2 a 128 caracteres, começar com uma letra e pode conter letras, dígitos, sublinhados (_) e hifens (-).
Clique em OK.
Etapa 5: Crie uma entrada SNAT
As entradas SNAT permitem que o cluster Logstash acesse a Internet.
Na página Internet NAT Gateway, localize o NAT gateway e clique em Configure SNAT na coluna Actions.
Clique em na aba SNAT Management.
Na seção SNAT Entry List, clique em Create SNAT Entry.
-
Em SNAT Entry, selecione Specify vSwitch e configure os seguintes parâmetros:
Parâmetro
Descrição
Select vSwitch
Selecione o vSwitch na VPC do cluster Logstash. Assim, todas as instâncias do Elastic Compute Service (ECS) nesse vSwitch poderão acessar a Internet por meio desta entrada SNAT.
Select EIP
Escolha o endereço IP público para acesso à Internet. Para criar um pool de endereços IP SNAT, selecione vários EIPs. Se selecionar múltiplos EIPs, todos devem estar associados ao mesmo plano de largura de banda de EIP. Consulte Associar e desassociar EIPs de instâncias de Internet Shared Bandwidth.
Clique em OK.
Para a lista completa de parâmetros SNAT, consulte Crie e gerencie entradas SNAT.
Etapa 6: Configure o pipeline do Logstash
Retorne à página Basic Information do cluster Logstash no console do Elasticsearch e configure um pipeline para transmitir dados pela Internet. Consulte Usar arquivos de configuração para gerenciar pipelines.
O exemplo abaixo usa Beats como entrada e um cluster Elasticsearch como saída. O servidor Beats está na mesma VPC do cluster Logstash, enquanto o cluster Elasticsearch está em uma VPC diferente. Portanto, é necessária uma entrada SNAT para que o Logstash alcance o cluster Elasticsearch pela Internet.
input {
beats {
port => 8000
host => "118.11.xx.xx"
}
}
filter {
}
output {
elasticsearch {
hosts => ["http://es-cn-o40xxxxxxxxxx****.elasticsearch.aliyuncs.com:9200"]
index => "logstash_test_1"
password => "es_password"
user => "elastic"
}
file_extend {
path => "/ssd/1/ls-cn-v0h1kzca****/logstash/logs/debug/test"
}
}