O MaxCompute oferece grupos de recursos exclusivos do Data Transmission Service para transferências de dados em grande escala que exigem alta estabilidade e baixa latência. Esse grupo de recursos proporciona velocidades de transferência mais altas e recursos de rede dedicados, o que reduz o tempo de transferência e aumenta a eficiência. Este tópico descreve como adquirir e usar esses recursos.
Contexto
O MaxCompute disponibiliza dois tipos de grupos de recursos para DTS:
Tipo de grupo de recursos | Faturamento | Regiões suportadas | Observações |
Grupo de recursos público do Data Transmission Service | Gratuito | Todas as regiões do MaxCompute | Compartilhado entre todos os locatários de uma região. Os recursos não são garantidos durante horários de pico e a concorrência máxima por cliente é limitada (varia conforme a região). |
Grupo de recursos exclusivo por assinatura do Data Transmission Service | Por assinatura, cobrado por conexão simultânea |
| Os recursos são reservados para seu uso exclusivo e não podem ser compartilhados com outros locatários, garantindo uma sincronização de dados estável e de alta concorrência. |
Pré-requisitos
Antes de adquirir e usar um grupo de recursos exclusivo do Data Transmission Service, verifique se seu ambiente atende aos seguintes requisitos de rede e região:
Requisitos de rede: há suporte apenas para acesso via rede VPC. Não há suporte para acesso pela internet pública.
Requisitos de região: não há suporte para transferências de dados entre regiões. Adquira o grupo de recursos na mesma região da tarefa de transferência de dados.
Para outras limitações, consulte Limitações do Data Transmission Service.
Adquira um grupo de recursos exclusivo do Data Transmission Service
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
-
Na página Quotas, clique em New Quota.
Na página de compra, selecione Data Transmission Service como tipo de especificação.
Configure a Tunnel Concurrency conforme suas necessidades .
Após concluir a compra, retorne ao console. Na página Quotas, localize o novo grupo de cotas com o Quota Type definido como Data Transmission Service. Você pode fazer upgrade, downgrade ou renew desse grupo de cotas. Para mais informações, consulte Operações relacionadas.
Use um grupo de recursos exclusivo do Data Transmission Service
Especifique um grupo de recursos exclusivo do Data Transmission Service para tarefas de transferência ou integração, visando melhorar a eficiência do processamento e atender a necessidades específicas de negócios.
-
Conecte-se ao projeto MaxCompute usando o cliente MaxCompute (odpscmd) ou outra ferramenta de conexão e execute o comando a seguir para ativar o roteamento de cota exclusiva:
setproject odps.tunnel.enable.quota.route.v2=true;NotaCertifique-se de que seu MaxCompute SDK seja da versão 0,45 ou posterior.
-
Conceda permissões para usar o recurso de cota a todas as contas necessárias (incluindo contas Alibaba Cloud) e funções.
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
Na página Tenants, clique na aba Roles.
-
Na aba Roles, clique em Add Role. Na caixa de diálogo Add Role, insira um Role Name personalizado, forneça o Policy Content e clique em OK.
O Policy Content é o seguinte:
{ "Statement": [{ "Action": [ "odps:List", "odps:Usage"], "Effect": "Allow", "Resource": ["acs:odps:*:regions/*/quotas/*"]}], "Version": "1" } -
Atribua a função às contas que precisam especificar cotas no nível da tarefa.
-
Conceda permissões a uma conta Alibaba Cloud.
-- Add an Alibaba Cloud account to the tenant and grant a role to the account. ADD tenant USER <Aliyun$xxxx>; GRANT tenant role <role_name> TO USER <Aliyun$xxxx>; -- View the permissions of a role or user in the tenant. SHOW grants FOR tenant role <role_name>; SHOW grants FOR tenant USER <user_name>; SHOW principals FOR tenant [role] <role_name>; -
Conceda permissões a um usuário RAM.
Na página Tenants, clique na aba Users.
Na aba Users, clique em Add Member. Na caixa de diálogo Add Member, selecione ou adicione as contas desejadas. Na seção Batch Set Roles, selecione as funções, clique em
e, em seguida, clique em OK.
-
-
Especifique manualmente o grupo de cotas no SDK para sua tarefa do Data Transmission Service.
-- Use the resource group named xxx for the Data Transmission Service. final TableTunnel tunnel = new TableTunnel(odps); tunnel.getConfig().setQuotaName("xxx"); TableTunnel.UploadSession up = tunnel.createUploadSession(projectName, tableName); -- Get the name of the resource group that the session is actually using. up.getQuotaName();No painel de navegação à esquerda, escolha .
No painel de navegação à esquerda, escolha .
Visualize e copie o QuotaName. Por exemplo:
ot_42854300324****_169821756****_p#ot_42854300324****_169821756****.
Visualize métricas do grupo de recursos
Na página Quotas, clique em Configure Resources na coluna Actions da cota desejada.
Você pode visualizar o uso do seu grupo de recursos exclusivo do Data Transmission Service baseado em assinatura.
Métrica | Descrição |
Request Parallelism | Exibe um gráfico de linhas do uso de slots com base nos critérios de filtro. O gráfico inclui o uso atual e o limite da cota. O uso é medido em slots. |
Throughput | Mostra um gráfico de linhas do throughput conforme os critérios de filtro. A unidade, como B/min ou MB/min, aparece no eixo vertical. |
Table-level Request Parallelism | Apresenta um gráfico de linhas com o número de solicitações simultâneas para upload de dados na tabela Filtre por Usage Type (por exemplo, upload via Tunnel Batch) e Table Name (por exemplo, testtable). |
Table-level IP Throughput | Ilustra um gráfico de linhas do throughput de cada endereço IP de source ao fazer upload de dados para a tabela Utilize filtros por Usage Type (como upload Tunnel Batch) e Table Name (como testtable). |
Total Requests and Error Requests | Indica o número total de solicitações e a quantidade de falhas com base nos filtros selecionados.
|
Total Throughput | Exibe o volume total de dados para diferentes modos de uso dentro do intervalo de tempo especificado, conforme os filtros. Um gráfico de pizza mostra a proporção de cada modo. |
Slot Average Transfer Rate | Mostra a velocidade média de transferência por slot nas solicitações de upload de dados via Tunnel Batch, segundo os critérios de filtro. Aplique filtros por Usage Type (por exemplo, upload Tunnel Batch). |
Configuração do grupo de recursos
O recurso de configuração de grupos de recursos no MaxCompute console será descontinuado em 30 de setembro de 2024 (UTC+8). Para garantir que suas configurações permaneçam válidas após essa data, restaure a configuração padrão (defina o Data Transmission Service resource group como default) e configure o grupo de recursos seguindo as instruções em Use um grupo de recursos exclusivo do Data Transmission Service.
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
-
Na página Projects, clique em Manage na coluna Actions do projeto alvo.
Na seção Basic Properties, visualize a configuração do Data Transmission Service para o projeto atual. A tabela abaixo descreve os parâmetros.
Parâmetro
Descrição
Default Tunnel Quota
Cota padrão do grupo de recursos do Data Transmission Service usada quando nenhuma cota específica é definida para leitura ou escrita de dados no projeto.
Geralmente é
Default, representando o grupo de recursos compartilhado. Não é possível alterar essa configuração no console.Authorized Tunnel Quota
O projeto autoriza todos os usuários e funções a utilizarem o grupo de recursos exclusivo configurado para tarefas de leitura e escrita. Assim, especifique a cota do grupo exclusivo no SDK para essas operações, mesmo sem autorização manual prévia.
Configure apenas um grupo de recursos exclusivo por projeto.
Overlay Tunnel Quota
Este recurso avançado permite utilizar simultaneamente um grupo de recursos exclusivo e o grupo padrão.
Ao configurar um grupo exclusivo adquirido, o número máximo de tarefas simultâneas do projeto aumenta para a soma dos recursos combinados do grupo compartilhado e do exclusivo.
Suportado apenas em algumas regiões. A disponibilidade depende do que é exibido no console.
Um projeto aceita apenas um grupo de recursos exclusivo, mas vários projetos podem compartilhar o mesmo. Ao usar o recurso de sobreposição (overlay), deixe a configuração do grupo de cotas vazia.
Caso utilize a Storage API, especifique obrigatoriamente o grupo de recursos exclusivo. O formato do QuotaName é
ot_42854300324****_169821756****_p#ot_42854300324****_169821756****.
Na seção Basic Properties, clique em Edit para modifique a configuração conforme necessário.