Todo o desenvolvimento de jobs ocorre em um workspace; portanto, crie um antes de começar. Este tópico descreve como criar um workspace no console do E-MapReduce.
Pré-requisitos
Registre uma conta Alibaba Cloud e conclua a verificação de nome real.
-
Sua conta deve ter as permissões necessárias para criar um workspace:
Se utilizar sua conta Alibaba Cloud, consulte Atribuir funções a uma conta Alibaba Cloud para obter detalhes sobre autorização.
Caso utilize um usuário RAM ou uma função RAM, verifique se as políticas de acesso AliyunEMRServerlessSparkFullAccess, AliyunOSSFullAccess e AliyunDLFFullAccess estão anexadas ao usuário ou à função RAM. Em seguida, na página Access Control, adicione o usuário ou a função RAM e conceda-lhe a função de administrador. Para mais informações, consulte Conceder permissões a um usuário RAM e Gerenciar usuários e funções.
Ative o Data Lake Formation (DLF). Para mais informações, consulte Início rápido. Para obter a lista de regiões compatíveis com o DLF, consulte Regiões e endpoints.
Ative o Object Storage Service (OSS) e crie um bucket. Para mais informações, consulte Ativar o serviço OSS e Criar um bucket.
Precauções
Você é responsável por gerenciar e configurar o ambiente de execução do seu código.
Criar um workspace por assinatura
-
Acesse a página do EMR Serverless Spark.
Faça login no console do EMR.
No painel de navegação à esquerda, escolha EMR Serverless > Spark.
-
Na barra de navegação superior, selecione a região desejada.
ImportanteNão é possível alterar a região de um workspace após a criação.
Clique em Create Workspace.
-
Na página Create Workspace, configure os parâmetros a seguir.
Parâmetro
Descrição
Exemplo
Region
Selecione a região onde seus dados estão localizados.
China (Hangzhou)
Billing Method
Selecione Subscription.
subscription
Workspace Name
O nome deve ter entre 1 e 64 caracteres e pode conter apenas caracteres chineses, letras, dígitos, hifens (-) e sublinhados (_).
NotaSe você inserir um nome já em uso, o sistema solicitará outro.
emr-serverless-spark
CU Quota
Número máximo de unidades de computação (CUs) simultâneas disponíveis para processar jobs no workspace.
NotaA cota máxima de CU para um workspace é de 1.000 CUs. Se precisar de uma cota maior, .
1000
Workspace Directory
Diretório usado para armazenar arquivos de dados, como logs de jobs, eventos de tempo de execução e recursos.
Selecione um bucket com OSS-HDFS habilitado para garantir compatibilidade nativa com a interface HDFS. Caso não precise do HDFS, selecione um bucket OSS padrão.
NotaEspecifique um diretório pai ou subdiretório para o caminho do OSS conforme necessário. O Spark cria automaticamente, sob o caminho especificado, um diretório com o ID do workspace para armazenar os seguintes dados:
<workspace-ID>/spark/logs/: Logs de jobs do Spark
<workspace-ID>/spark/eventlogs/: Logs de eventos do Spark
<workspace-ID>/spark/snapshot/: Dados de snapshot do Spark
emr-oss-hdfs
DLF for Metadata Storage
Armazena e gerencia metadados. Selecione um catálogo DLF ou DLF-Legacy.
Se o DLF estiver ativado, o EMR usará um catálogo DLF por padrão. Se apenas o DLF-Legacy estiver configurado, o EMR usará o catálogo DLF-Legacy com nome idêntico ao seu UID. Para usar catálogos diferentes em clusters distintos, crie um novo catálogo:
Clique em Create Catalog. Na caixa de diálogo exibida, insira um Catalog Name e clique em Create Catalog. Para mais informações, consulte Criar um catálogo.
Na lista suspensa, selecione o catálogo criado.
emr-dlf
Execution Role
Define a função assumida pelo Serverless Spark para executar jobs. A função padrão é AliyunEMRSparkJobRunDefaultRole.
O Serverless Spark usa essa função para acessar recursos em outros serviços, como OSS e DLF. Para controlar as permissões da função de execução, utilize uma função personalizada. Para mais informações, consulte Função de execução.
AliyunEMRSparkJobRunDefaultRole
(Opcional) Advanced Settings
Tags: identificadores para recursos de nuvem que permitem classificar, pesquisar e agrupar itens com características semelhantes, melhorando a eficiência do gerenciamento. É possível vincular até 20 tags a cada workspace. Cada tag consiste em uma chave e um valor personalizados. As tags também facilitam a alocação de custos e o gerenciamento detalhado de recursos de pagamento conforme o uso.
Vincule tags durante a criação do workspace ou adicione e modifique tags a qualquer momento na página de lista de workspaces. Vincular tags aos recursos ajuda na classificação e na otimização das operações.
Para mais informações sobre tags, consulte O que é uma tag?.
Insira uma chave e um valor de tag personalizados
Clique em Create Workspace.
-
Clique em Confirm Order e conclua o pagamento.
Após a conclusão do pagamento, o Workspace aparecerá como "sendo criado" na página EMR Serverless > Spark. A criação geralmente leva de 3 a 5 minutos.
Criar um workspace de pagamento conforme o uso
-
Acesse a página do EMR Serverless Spark.
Faça login no console do EMR.
No painel de navegação à esquerda, escolha EMR Serverless > Spark.
-
Na barra de navegação superior, selecione a região desejada.
ImportanteNão é possível alterar a região de um workspace após a criação.
Clique em Create Workspace.
-
Na página Create Workspace, configure os parâmetros a seguir.
Parâmetro
Descrição
Exemplo
Region
Selecione a região onde seus dados estão localizados.
China (Hangzhou)
Billing Method
Selecione Pay-as-you-go.
pay-as-you-go
Workspace Name
O nome deve ter entre 1 e 64 caracteres e pode conter apenas caracteres chineses, letras, dígitos, hifens (-) e sublinhados (_).
NotaSe você inserir um nome já em uso, o sistema solicitará outro.
emr-serverless-spark
Maximum Quota
Número máximo de unidades de computação (CUs) disponíveis para execução simultânea de jobs no workspace.
NotaA cota máxima de pico para um workspace é de 5.000 CUs. Se precisar de uma cota maior, .
1000
Workspace Directory
Diretório usado para armazenar arquivos de dados, como logs de jobs, eventos de tempo de execução e recursos.
Selecione um bucket com OSS-HDFS habilitado para garantir compatibilidade nativa com a interface HDFS. Caso não precise do HDFS, selecione um bucket OSS padrão.
NotaEspecifique um diretório pai ou subdiretório para o caminho do OSS conforme necessário. O Spark cria automaticamente, sob o caminho especificado, um diretório com o ID do workspace para armazenar os seguintes dados:
<workspace-ID>/spark/logs/: Logs de jobs do Spark
<workspace-ID>/spark/eventlogs/: Logs de eventos do Spark
<workspace-ID>/spark/snapshot/: Dados de snapshot do Spark
emr-oss-hdfs
DLF for Metadata Storage
Armazena e gerencia metadados. Selecione um catálogo DLF ou DLF-Legacy.
Se o DLF estiver ativado, o EMR usará um catálogo DLF por padrão. Se apenas o DLF-Legacy estiver configurado, o EMR usará o catálogo DLF-Legacy com nome idêntico ao seu UID. Para usar catálogos diferentes em clusters distintos, crie um novo catálogo:
Clique em Create Catalog. Na caixa de diálogo exibida, insira um Catalog Name e clique em Create Catalog. Para mais informações, consulte Criar um catálogo.
Na lista suspensa, selecione o catálogo criado.
emr-dlf
Execution Role
Define a função assumida pelo Serverless Spark para executar jobs. A função padrão é AliyunEMRSparkJobRunDefaultRole.
O Serverless Spark usa essa função para acessar recursos em outros serviços, como OSS e DLF. Para controlar as permissões da função de execução, utilize uma função personalizada. Para mais informações, consulte Função de execução.
AliyunEMRSparkJobRunDefaultRole
(Opcional) Advanced Settings
Tags: identificadores para recursos de nuvem que permitem classificar, pesquisar e agrupar itens com características semelhantes, melhorando a eficiência do gerenciamento. É possível vincular até 20 tags a cada workspace. Cada tag consiste em uma chave e um valor personalizados. As tags também facilitam a alocação de custos e o gerenciamento detalhado de recursos de pagamento conforme o uso.
Vincule tags durante a criação do workspace ou adicione e modifique tags a qualquer momento na página de lista de workspaces. Vincular tags aos recursos ajuda na classificação e na otimização das operações.
Para mais informações sobre tags, consulte O que é uma tag?.
Insira uma chave e um valor de tag personalizados
Clique em <!--@uicontrol {"id":"3e6aeceaf3hm8","data-isbold="true","data-init-id":"f055565d33rgg"}-->Create Workspace.
Documentos relacionados
Após criar um workspace, inicie o desenvolvimento de jobs, como jobs SparkSQL. Para mais informações, consulte Início rápido para desenvolvimento SparkSQL.