O MaxCompute oferece grupos de recursos exclusivos do Data Transmission Service para transferências de dados em larga escala que exigem alta estabilidade e baixa latência. Esses grupos proporcionam velocidades de transferência mais altas e recursos de rede dedicados, o que reduz o tempo de transferência e aumenta a eficiência. Este tópico descreve como comprar e usar esses recursos.
Contexto
O MaxCompute disponibiliza dois tipos de grupos de recursos para DTS:
Tipo de grupo de recursos | Faturamento | Regiões suportadas | Observações |
Grupo de recursos público do Data Transmission Service | Gratuito | Todas as regiões do MaxCompute | Compartilhado entre todos os tenants em uma região. Os recursos não são garantidos durante horários de pico e a concorrência máxima por cliente é limitada (varia conforme a região). |
Grupo de recursos exclusivo por assinatura do Data Transmission Service | Por assinatura, cobrado por conexão simultânea |
| Os recursos são reservados para seu uso exclusivo e não podem ser compartilhados com outros tenants, garantindo sincronização de dados estável e com alta concorrência. |
Pré-requisitos
Antes de comprar e usar um grupo de recursos exclusivo do Data Transmission Service, verifique se seu ambiente atende aos seguintes requisitos de rede e região:
Requisitos de rede: há suporte apenas para acesso via rede VPC. Não há suporte para acesso pela internet pública.
Requisitos de região: não há suporte para transferências de dados entre regiões. Adquira o grupo de recursos na mesma região da tarefa de transferência de dados.
Para outras limitações, consulte Data Transmission Service limitations.
Comprar um grupo de recursos exclusivo do Data Transmission Service
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
-
Na página Quotas, clique em New Quota.
Na página de compra, selecione Data Transmission Service como tipo de especificação.
Configure a Tunnel Concurrency conforme suas necessidades .
Após concluir a compra, retorne ao console. Na página Quotas, localize o novo grupo de cotas com o Quota Type definido como Data Transmission Service. É possível fazer upgrade, downgrade ou renovar esse grupo de cotas. Para mais informações, consulte Related operations.
Usar um grupo de recursos exclusivo do Data Transmission Service
Especifique um grupo de recursos exclusivo do Data Transmission Service para tarefas de transferência ou integração de dados a fim de melhorar a eficiência do processamento e atender a necessidades específicas de negócios.
-
Conecte-se ao projeto MaxCompute usando o MaxCompute client (odpscmd) ou outra ferramenta de conexão e execute o comando a seguir para ativar o roteamento de cota exclusiva:
setproject odps.tunnel.enable.quota.route.v2=true;NotaCertifique-se de que seu MaxCompute SDK seja da versão 0,45 ou posterior.
-
Conceda permissões para usar o recurso de cota a todas as contas necessárias (incluindo contas Alibaba Cloud) e funções.
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
Na página Tenants, clique na aba Roles.
-
Na aba Roles, clique em Add Role. Na caixa de diálogo Add Role, insira um Role Name personalizado, forneça o Policy Content e clique em OK.
O Policy Content é o seguinte:
{ "Statement": [{ "Action": [ "odps:List", "odps:Usage"], "Effect": "Allow", "Resource": ["acs:odps:*:regions/*/quotas/*"]}], "Version": "1" } -
Atribua a função às contas que precisam especificar cotas no nível da tarefa.
-
Conceda permissões a uma conta Alibaba Cloud.
-- Add an Alibaba Cloud account to the tenant and grant a role to the account. ADD tenant USER <Aliyun$xxxx>; GRANT tenant role <role_name> TO USER <Aliyun$xxxx>; -- View the permissions of a role or user in the tenant. SHOW grants FOR tenant role <role_name>; SHOW grants FOR tenant USER <user_name>; SHOW principals FOR tenant [role] <role_name>; -
Conceda permissões a um usuário RAM.
Na página Tenants, clique na aba Users.
Na aba Users, clique em Add Member. Na caixa de diálogo Add Member, selecione ou adicione as contas desejadas. Na seção Batch Set Roles, selecione as funções, clique em
e, em seguida, clique em OK.
-
-
Especifique manualmente o grupo de cotas no SDK para sua tarefa do Data Transmission Service.
-- Use the resource group named xxx for the Data Transmission Service. final TableTunnel tunnel = new TableTunnel(odps); tunnel.getConfig().setQuotaName("xxx"); TableTunnel.UploadSession up = tunnel.createUploadSession(projectName, tableName); -- Get the name of the resource group that the session is actually using. up.getQuotaName();No painel de navegação à esquerda, escolha .
No painel de navegação à esquerda, escolha .
Visualize e copie o QuotaName. Por exemplo:
ot_42854300324****_169821756****_p#ot_42854300324****_169821756****.
Visualizar métricas do grupo de recursos
Na página Quotas, clique em Configure Resources na coluna Actions da cota desejada.
É possível visualizar o uso do grupo de recursos exclusivo por assinatura do Data Transmission Service.
Métrica | Descrição |
Request Parallelism | Exibe um gráfico de linhas do uso de slots com base nos critérios de filtro. O gráfico inclui o uso atual e o limite da cota. O uso é medido em slots. |
Throughput | Mostra um gráfico de linhas do throughput com base nos critérios de filtro. A unidade, como B/min ou MB/min, é indicada no eixo vertical. |
Table-level Request Parallelism | Apresenta um gráfico de linhas do número de solicitações simultâneas para upload de dados na tabela Filtre por Usage Type (por exemplo, upload via Tunnel Batch) e Table Name (por exemplo, testtable). |
Table-level IP Throughput | Indica um gráfico de linhas do throughput de cada endereço IP de source ao fazer upload de dados na tabela Filtre por Usage Type (por exemplo, upload via Tunnel Batch) e Table Name (por exemplo, testtable). |
Total Requests and Error Requests | Exibe o número total de solicitações e o número de solicitações com falha com base nos critérios de filtro.
|
Total Throughput | Mostra a quantidade total de dados para diferentes modos de uso dentro do intervalo de tempo especificado, com base nos critérios de filtro. Um gráfico de pizza exibe a proporção de cada modo de uso. |
Slot Average Transfer Rate | Apresenta a velocidade média de transferência por slot para solicitações de upload de dados usando Tunnel Batch, com base nos critérios de filtro. Filtre por Usage Type (por exemplo, upload via Tunnel Batch). |
Configuração do grupo de recursos
O recurso para configurar grupos de recursos no MaxCompute console será descontinuado em 30 de setembro de 2024 (UTC+8). Para garantir que suas configurações de grupo de recursos permaneçam válidas após essa data, restaure a configuração padrão (defina o grupo de recursos do Data Transmission Service como default) e configure o grupo de recursos seguindo as instruções em Use an exclusive data transmission resource group.
Faça login no MaxCompute console e selecione uma região no canto superior esquerdo.
No painel de navegação à esquerda, escolha .
-
Na página Projects, clique em Manage na coluna Actions do projeto desejado.
Na seção Basic Properties, visualize a configuração do Data Transmission Service para o projeto atual. A tabela a seguir descreve os parâmetros.
Parâmetro
Descrição
Default Tunnel Quota
Cota padrão do grupo de recursos do Data Transmission Service usada quando nenhuma cota específica é definida para leitura ou gravação de dados no projeto.
Geralmente é
Default, que representa o grupo de recursos compartilhado do Data Transmission Service. Não é possível modificar essa configuração no console.Authorized Tunnel Quota
O projeto autoriza todos os usuários e funções a usar o grupo de recursos exclusivo configurado para tarefas de leitura e gravação de dados. Portanto, especifique a cota do grupo de recursos exclusivo configurada em um SDK para tarefas de leitura e gravação no projeto, mesmo sem conceder autorização manual.
Configure apenas um grupo de recursos exclusivo por projeto.
Overlay Tunnel Quota
Este recurso aprimorado para grupos de recursos exclusivos permite usar tanto um grupo de recursos exclusivo quanto o grupo de recursos padrão.
Ao configurar um grupo de recursos exclusivo adquirido, o número máximo de tarefas simultâneas permitidas para o projeto atual aumenta para os recursos combinados do grupo de recursos compartilhado do Data Transmission Service e do grupo de recursos exclusivo.
Esse recurso tem suporte apenas em algumas regiões. A disponibilidade está sujeita ao que é exibido no console.
Um projeto pode ser configurado com apenas um grupo de recursos exclusivo, mas vários projetos podem compartilhar um único grupo. Ao usar o recurso de sobreposição (overlay), deixe a configuração do grupo de cotas vazia.
Se você usar a Storage API, especifique o grupo de recursos exclusivo. O formato do QuotaName é
ot_42854300324****_169821756****_p#ot_42854300324****_169821756****.
Na seção Basic Properties, clique em Edit para modifique a configuração conforme necessário.