Os grupos de recursos serverless unificam as capacidades de agendamento exclusivo, Data Integration e Data Service em um único grupo para sincronização de dados, agendamento de tarefas e gerenciamento de APIs. Este guia orienta você na criação, configuração de rede, associação ao workspace e monitoramento contínuo.
Certifique-se de ter lido Resource group management e compreendido os conceitos fundamentais e os benefícios dos grupos de recursos serverless.
Pré-requisitos
-
Permissões necessárias para grupos de recursos:
-
Permissões de compra: São necessárias as permissões
AliyunBSSOrderAccesseAliyunDataWorksFullAccess.A permissão AliyunVPCReadOnlyAccess também é necessária para ler informações da VPC.
-
Permissões de gerenciamento: Apenas um administrador do workspace DataWorks de destino pode associar um grupo de recursos a esse workspace ou modificar a associação.
Não sabe como conceder permissões? Consulte View the permissions of a RAM user e Manage the permissions of a RAM user . Para obter informações sobre controle de permissões em outras operações de grupos de recursos, consulte Object-level permission control policies in the console .
-
-
Planejamento de ambiente e rede:
Princípio da mesma região: O grupo de recursos serverless deve estar na mesma região do seu workspace DataWorks.
-
Planejamento de VPC (obrigatório): Grupos de recursos serverless exigem uma Virtual Private Cloud (VPC). É necessário ter uma VPC and a vSwitch pronta.
ImportanteNão altere o ambiente de VPC e vSwitch associado a um grupo de recursos serverless. Essa alteração pode causar falhas nas tarefas do DataWorks.
**Grupos de recursos serverless não suportam VPCs que utilizam endereços IP no bloco CIDR 21.0.0.0/8, ou seja, endereços IP de
21.0.X.Xaté21.255.XXX.XXXsão proibidos.**
-
Conectividade de rede: Para garantir que o grupo de recursos acesse suas fontes de dados (bancos de dados, serviços de dados ou outros dados em ambientes de rede de destino), configure a network connectivity de acordo com o ambiente da sua fonte de dados.
ImportantePor padrão, grupos de recursos serverless não têm acesso à internet. Para acessar fontes de dados pela internet, configure uma Internet NAT Gateway e um EIP para a VPC associada ao grupo de recursos serverless.
Criar um grupo de recursos serverless
As ofertas de Free trial resource packages são válidas apenas para grupos de recursos com modelo de cobrança pagamento conforme o uso. Para utilizar a oferta resgatada, crie um grupo de recursos com pagamento conforme o uso.
Faça login no console do DataWorks. Na região de destino, clique em Resource Group no painel de navegação à esquerda para abrir a lista de grupos de recursos.
-
Clique em Create Resource Group para acessar a página de compra do grupo de recursos serverless. Os principais parâmetros são:
Para usuários de versões anteriores, a operação está localizada na aba padrão Exclusive Resource Group .
Parâmetro
Descrição
Região e zona
Selecione uma região. A região deve ser a mesma do seu workspace DataWorks.
Método de faturamento
Dois métodos de faturamento estão disponíveis: Subscription (pré-pago) e Pay-As-You-Go (pós-pago).
-
Pay-As-You-Go: Ideal para cargas de trabalho com grandes flutuações ou cenários de teste. Não há cobrança quando nenhum recurso é utilizado. Suporta switching to Subscription.
ImportanteLimite de CU para pagamento conforme o uso: A especificação máxima para um único grupo de recursos com pagamento conforme o uso é de 500 CUs.
-
Subscription: Recomendado para cargas de produção estáveis e de longo prazo com menor custo. Não é possível alterar de Subscription para Pay-As-You-Go.
É possível adquirir vários grupos de recursos com diferentes métodos de faturamento para atender aos requisitos do seu negócio.
Especificações do grupo de recursos
Quando o método de faturamento for Subscription, defina as especificações do grupo de recursos. A quantidade mínima de compra é de 2 CUs, e o incremento mínimo de dimensionamento é de 1 CU.
1 CU = 1 núcleo de CPU + 4 GiB de memória. Para recomendações de compra e especificações mínimas necessárias para executar diversas tarefas, consulte Resource group specifications and pricing.VPC
Selecione a VPC com base na rede à qual o grupo de recursos precisa se conectar. Se não houver opções disponíveis na lista suspensa, acesse o console da VPC para criar uma.
Para mais informações sobre VPCs, consulte What is a VPC?.
-
A fonte de dados está na mesma conta e região do grupo de recursos serverless: Configure a VPC e o vSwitch onde a fonte de dados reside.
-
A fonte de dados está em outros ambientes de rede complexos: Também será necessário conectar a VPC associada ao grupo de recursos serverless à VPC onde a fonte de dados reside, utilizando VPN Gateway ou Express Connect. Para mais detalhes, consulte Network connectivity.
Importante-
Um grupo de recursos suporta associação a múltiplas VPCs. Você pode associar VPCs adicionais após concluir a compra.
-
Se o método de faturamento do grupo de recursos for Subscription, a VPC configurada aqui não poderá ser alterada ou substituída para o Data Service após ser aplicada ao Data Service, computação de dados e Data Integration. Planeje com antecedência.
vSwitch
Ciclo de faturamento
Quando o método de faturamento for Subscription, é necessário definir o ciclo de faturamento.
ImportanteRecomendamos selecionar Auto Renewal para evitar interrupções nos negócios causadas por expiração, desligamento ou liberação de recursos. Ao selecionar essa opção, o ciclo de renovação automática será mensal, e as taxas serão deduzidas automaticamente pelo preço em tempo real antes da expiração da instância.
Função vinculada ao serviço
Na primeira compra, é necessário Create Service-linked Role (AliyunServiceRoleForDataWorks). Compras subsequentes utilizarão automaticamente a função criada.
Essa função é usada para acessar recursos de VPC, Elastic Network Interface (ENI) e grupo de segurança. Se você vir o aviso
Please create AliyunServiceRoleForDataWorks, forneça esta URL de autorização ao proprietário da conta Alibaba Cloud ou a outro pessoal autorizado para realizar a autorização e, em seguida, prossiga.Após a criação de um grupo de recursos serverless, não é possível alterar o vSwitch (V-Switch) associado ao grupo. Caso selecione um vSwitch incorreto durante a criação, não será possível modificar diretamente a associação. Será necessário cancelar a assinatura do grupo de recursos atual e adquirir um novo com o vSwitch correto. Verifique a configuração do vSwitch antes de criar o grupo de recursos.
-
Após concluir a compra, a lista de grupos de recursos pode levar de 1 a 2 minutos para exibir o novo grupo criado. Se o grupo não aparecer imediatamente na lista, atualize manualmente a página. Após a criação, o status do grupo será exibido como Creating. O grupo só poderá ser utilizado quando o status mudar para Running.
Associe o grupo de recursos a um workspace assim que o status mudar para Running. Caso contrário, o grupo de recursos não estará disponível para seleção nas configurações de tarefas.
Configuração e uso do grupo de recursos
1. Associar um grupo de recursos a um workspace
Após criar um grupo de recursos, associe-o a um workspace para que seja possível selecioná-lo ao configurar tarefas.
-
Associar um grupo de recursos ao criar um workspace
Faça login no console do DataWorks. Na região de destino, clique em Workspace no painel de navegação à esquerda para abrir a lista de workspaces.
Clique em Create a workspace. Na página Create a workspace, altere o parâmetro Default Resource Group of DataWorks Workspace nas configurações avançadas para o grupo de recursos de destino que você criou.
-
Associar um grupo de recursos a um workspace existente
Faça login no console do DataWorks. Na região de destino, clique em Resource Group no painel de navegação à esquerda para abrir a lista de grupos de recursos.
Na coluna Operation do grupo de recursos de destino, clique em Associate Workspace. Localize o workspace que deseja associar e clique em Operation > Bind.
2. Configurar conectividade de rede
Configure a conectividade de rede para que o grupo de recursos possa alcançar suas fontes de dados. Grupos de recursos serverless não possuem acesso à internet por padrão.
Cenário 1: Acessar fontes de dados dentro de uma VPC (como RDS ou bancos de dados autogerenciados no ECS)
Garanta que a VPC associada ao grupo de recursos seja a mesma da fonte de dados, ou que as VPCs estejam conectadas via CEN ou peering de VPC.
Cenário 2: Acessar endereços IP públicos
Configure um NAT gateway e um EIP para a VPC associada ao grupo de recursos a fim de habilitar o acesso à internet.
Cenário 3: Acessar um IDC on-premises
Conecte sua VPC à rede do IDC através de VPN Gateway ou Express Connect.
Para cenários de rede mais complexos, consulte Network connectivity .
3. Utilizar o grupo de recursos em tarefas
Após criar e configurar um grupo de recursos serverless, especifique-o nas suas tarefas de Data Integration, agendamento de dados e Data Service.
Para tarefas de Data Integration: Na seção Resource group configuration da tarefa de sincronização, selecione o grupo de recursos serverless criado.
Para tarefas de desenvolvimento de dados (Shell, Python, etc.): No lado direito da página de edição do nó, acesse e selecione o grupo de recursos serverless criado.
Para APIs do Data Service: Na seção Resource Group for DataService Studio, no lado direito da página de configuração da API, selecione o grupo de recursos serverless criado.
Para todos os cenários que envolvem grupos de recursos, consulte Use resource groups .
Operação e monitoramento de grupos de recursos
Alocar cotas de CU para tarefas
Configure Maximum CUs (máximo) ou Minimum CUs (mínimo) separadamente para computação de dados, Data Integration e ambientes de desenvolvimento pessoal, garantindo a execução adequada das tarefas. O valor de Maximum CUs para Data Service não pode ser modificado. O console exibe -, indicando que não há limite superior.
Em grupos de recursos com pagamento conforme o uso, configure o limite de CU para evitar consumo excessivo de recursos.
Em grupos de recursos Subscription, configure a garantia mínima de CU para estabelecer a cota mínima garantida.
Instruções: Na página da lista de grupos de recursos, clique em
> Manage Quota na coluna Operation do grupo de recursos de destino e modifique os valores de Maximum CUs ou Minimum CUs conforme a finalidade.
Alternativamente, clique no Resource Group Name desejado na lista de grupos de recursos para acessar a página de detalhes. Clique em Manage Quota no canto superior direito e ajuste os valores de Maximum CUs ou Minimum CUs para diferentes finalidades.
CUs recomendadas por tarefa: Para compute tasks como Python, Notebook e PyODPS, recomendamos configurar no máximo 16 CUs por tarefa (com limite superior de 64 CUs) para otimizar a inicialização e a estabilidade de execução. Para tarefas de sincronização, exceto tarefas de sincronização em tempo real, cada tarefa pode receber no máximo 16 CUs.
Isolamento de recursos para múltiplas tarefas
Tarefas que compartilham o mesmo grupo de recursos serverless com pagamento conforme o uso competem por recursos, o que pode atrasar algumas execuções. Isole recursos para tarefas críticas utilizando os seguintes métodos:
Defina Maximum CUs para diferentes finalidades (computação de dados, Data Integration e Data Service) a fim de limitar o uso máximo de recursos para cada finalidade.
Para grupos de recursos Subscription, configure Minimum CUs para garantir recursos mínimos às tarefas críticas.
Durante horários de pico, aumente as especificações do grupo de recursos para elevar o total de CUs disponíveis e evitar filas de tarefas devido à insuficiência de recursos.
Ajustar o limite de concorrência para agendamento
Em cenários de agendamento de dados, defina o limite de concorrência de tarefas para controlar o número máximo de tarefas que podem ser executadas simultaneamente. Esse limite aplica-se apenas ao agendamento e não restringe a execução das tarefas. Por padrão, um único grupo de recursos pode executar até 50 tarefas agendadas simultaneamente, com um máximo de 200.
Instruções: Na página da lista de grupos de recursos, clique em
> Specify Threshold for Parallel Threads of Data Scheduling na coluna Operation do grupo de recursos de destino e modifique o valor de Specify Threshold for Parallel Threads of Data Scheduling.
Você também pode clicar no Resource Group Name desejado na lista de grupos de recursos para acessar a página de detalhes. Clique em Specify Threshold for Parallel Threads of Data Scheduling no canto superior direito e modifique o valor de Specify Threshold for Parallel Threads of Data Scheduling .
Visualizar utilização do grupo de recursos
Quando um grupo de recursos Subscription apresenta alta utilização de computação, novas tarefas enviadas podem entrar em fila até que recursos fiquem disponíveis. Utilize os métodos abaixo para verificar tarefas em execução, utilização atual e histórica, e consumo de recursos por tarefa.
Instruções: Na página da lista de grupos de recursos, visualize a utilização exibida na coluna Used CUs do grupo de recursos de destino.
Alternativamente, clique no Resource Group Name desejado na lista para acessar a página de detalhes. Utilize o gráfico Resource Usage para revisar o uso histórico de recursos em momentos específicos e visualizar detalhes de tarefas em execução ou aguardando execução, filtrados por cenário de uso do grupo de recursos.
Dimensionar um grupo de recursos
O dimensionamento de um grupo de recursos gera custos. Para regras específicas de faturamento, consulte Billing.
Se observar alta utilização na página de detalhes de um grupo de recursos Subscription, aumente manualmente a escala do grupo para melhorar o desempenho de processamento de tarefas de Data Integration, agendamento e Data Service. Caso a utilização real de um grupo Subscription esteja baixa, reduza a escala manualmente para diminuir custos.
-
Na página da lista de grupos de recursos, clique em
> Scale Out ou Scale In na coluna Operation do grupo de recursos de destino.ImportanteA redução de escala pode tornar a execução das tarefas mais lenta. Avalie o impacto antes de prosseguir.
Na página de alteração de configuração do grupo de recursos, ajuste as Resource Group Specifications, selecione Terms of Service e clique em Buy Now.
Gerenciamento de custos de grupos de recursos
Congelar e descongelar grupos de recursos com pagamento conforme o uso
-
Congelar um grupo de recursos serverless com pagamento conforme o uso: Se um grupo de recursos serverless com pagamento conforme o uso não for utilizado dentro de 7 dias, ele será congelado. É possível verificar o status na página da lista de grupos de recursos. Os cenários a seguir indicam que o grupo não está sendo utilizado:
Tarefas agendadas: O grupo de recursos não executa nenhuma tarefa agendada.
Tarefas de computação de dados: O grupo de recursos não executa compute tasks.
Tarefas de Data Integration: O grupo de recursos não executa tarefas de Data Integration.
Consultas de Data Analysis: O grupo de recursos não executa consultas de Data Analysis.
Testes de conectividade: O grupo de recursos não realiza testes de conectividade.
Coleta de metadados: O grupo de recursos não realiza tarefas de coleta de metadados.
Ambiente de desenvolvimento pessoal: O grupo de recursos não é usado no ambiente de desenvolvimento pessoal.
Data Service: O grupo de recursos não oferece suporte ao Data Service.
Serviço de modelos grandes: O grupo de recursos não oferece suporte a serviços de modelos grandes.
Iniciar um grupo de recursos serverless congelado: Para iniciar um grupo congelado, localize-o na página da lista de grupos de recursos e clique em na coluna Operation.
Alterar de pagamento conforme o uso para Subscription
É possível alterar um grupo de recursos serverless com pagamento conforme o uso para o faturamento Subscription. Após a alteração, o grupo será faturado conforme a Subscription resource group unit price.
Na página da lista de grupos de recursos, clique no ícone
na coluna Operation do grupo de recursos de destino e selecione Billing Type Conversion para abrir a caixa de diálogo Switch to Subscription.Na caixa de diálogo, ajuste o Destination Instance Type e a Duration do grupo de recursos conforme necessário.
Após concluir a configuração, clique em Confirm para acessar a página de checkout da Alibaba Cloud e finalizar o Order.
Ao alterar um grupo de recursos serverless de pagamento conforme o uso para Subscription, a transição leva aproximadamente 1 a 2 minutos e não afeta as tarefas em execução.
Renovar e cancelar assinatura de grupos de recursos
Na página da lista de grupos de recursos, ao verificar o status da instância: se um grupo exibir Expired, clique em
> Renew na coluna Operation do grupo de recursos de destino.
Para cancelar a assinatura de um grupo de recursos serverless, clique em
> Unsubscribe na coluna Operation do grupo de recursos de destino. Para mais informações, consulte Unsubscribe from a resource group.
Liberação de grupo de segurança após cancelamento ou exclusão
Após cancelar a assinatura ou excluir um grupo de recursos serverless, os grupos de segurança associados geralmente são limpos automaticamente. Atualize o console logo após o cancelamento para confirmar que os grupos de segurança foram liberados.
Se encontrar um erro informando que um grupo de segurança possui recursos associados ao tentar excluir uma VPC, mas o console não mostrar nenhum recurso associado, é possível que os recursos de backend do DataWorks ainda não tenham sido totalmente liberados. Certifique-se de que todos os grupos de recursos serverless relacionados foram cancelados ou congelados e aguarde alguns minutos antes de tentar novamente.
Excluir um grupo de recursos serverless expirado ou com renovação de custo zero não gera cobranças adicionais.
Perguntas frequentes
P: Existem restrições de região para compras?
R: As restrições de compra são as seguintes.
Se desejar usar grupos de recursos serverless em um ambiente de revendedor, confirme primeiro se o seu provedor oferece suporte à venda deste product.
Compras não são suportadas na região Thailand (Bangkok).
P: Após adquirir um pacote de recursos de avaliação gratuita para grupos de recursos serverless, não consigo associar um grupo no DataWorks e nenhum grupo aparece na lista. O que devo fazer?
R: Um pacote de recursos de avaliação gratuita é um voucher de dedução de custos e não cria automaticamente um grupo de recursos. Crie manualmente um grupo de recursos serverless com modelo de cobrança pagamento conforme o uso; o sistema utilizará automaticamente o pacote de recursos para compensar os custos gerados por esse grupo. Quando a cota do pacote se esgotar, as cobranças serão deduzidas do saldo da sua conta com base no pagamento conforme o uso.
P: Como um grupo de recursos serverless pode acessar um endereço de host?
R: Grupos de recursos serverless não suportam acesso direto a hosts. Se necessário, utilize o Privatezone DNS para resolver e acessar o host.
-
Activate the PrivateZone DNS service
NotaSe o PrivateZone DNS já estiver ativado, pule esta etapa.
-
Certifique-se de ter created a zone.
Tomando como exemplo o nome de domínio do host
header-1-cn-shanghai, realize a resolução autoritativa para o nome de domínioheader-1-cn-shanghai. Ajuste este parâmetro conforme a configuração do nome de domínio do seu host. -
Defina o Record Value como o
private IP addresscorrespondente ao host associado ao nome de domínio. -
Ao definir a VPC para que o nome de domínio tenha efeito, selecione a VPC associada ao grupo de recursos.
P: Resgatei um pacote de recursos para novos usuários ou um pacote de dedução, mas não consigo selecionar um grupo de recursos na página de associação ou na configuração da tarefa. Por quê?
R: Pacotes de recursos para novos usuários e pacotes de dedução funcionam apenas como vouchers de desconto. Eles não criam instâncias de grupos de recursos automaticamente. Acesse a página Resource Group List, clique em Create Resource Group e selecione o método de faturamento Pay-As-You-Go para criar uma instância de grupo de recursos. Após a criação, atualize a página e o grupo aparecerá na lista suspensa.
Se a página redirecionar para a página de avaliação gratuita durante a criação, navegue manualmente de volta para a página de compra de grupos de recursos serverless para criar o grupo. O sistema usará automaticamente o pacote de recursos resgatado para compensar os custos gerados pelo grupo.
P: Uma tarefa de Data Integration está em execução há muito tempo com 0% de progresso, ou uma mensagem de erro indica que o tipo de grupo de recursos não é suportado. O que fazer?
R: Esse problema geralmente ocorre ao usar um grupo de recursos exclusivo legado (como um grupo exclusivo para Data Integration), onde a fragmentação de slots de máquina impede que as tarefas obtenham recursos suficientes. Crie um grupo de recursos serverless e migre a tarefa para executá-lo nele. Se a tarefa ainda não conseguir ser executada, tente o seguinte:
Reduza a configuração de concorrência da tarefa de sincronização.
Aumente as especificações do grupo de recursos serverless para alocar mais CUs.
Grupos de recursos exclusivos legados não são mais recomendados. Migre para grupos de recursos serverless para obter melhor elasticidade e estabilidade.
P: Qual é a diferença entre grupos de recursos do DataWorks e recursos de computação do MaxCompute?
R: Para executar tarefas de sincronização de dados ODPS, são necessários dois tipos de recursos:
Grupo de recursos serverless do DataWorks: Usado para agendar e executar tarefas de sincronização. Adquira o grupo no console do DataWorks.
CUs de computação do MaxCompute: Usados para escanear e processar dados em projetos MaxCompute (ODPS). Adquira e configure as CUs de computação separadamente no console do MaxCompute.
Esses dois tipos de recursos são independentes e devem ser adquiridos separadamente. Se você adquirir apenas um grupo de recursos serverless do DataWorks, mas o projeto MaxCompute não tiver CUs de computação suficientes, as tarefas de sincronização ODPS podem falhar ou executar lentamente devido à falta de recursos durante a fase de varredura de dados.
Referências
Utilize o recurso de monitoramento inteligente no Operation Center para acompanhar a utilização do grupo de recursos e o número de instâncias aguardando recursos. Para mais informações, consulte Create a custom rule.
Se as tarefas executadas em um grupo de recursos serverless exigirem um ambiente de desenvolvimento específico (como dependências de bibliotecas de terceiros), crie uma custom image que integre os pacotes e dependências necessários. Em seguida, especifique o grupo de recursos serverless como recurso de execução e a imagem como ambiente de runtime ao executar a tarefa.