Configure um job Spark Shell para executar scripts interativos do Spark no cluster EMR.
Pré-requisitos
Verifique se você já criou um projeto. Para mais informações, consulte
.
Procedimento
-
Acesse a página Projects no Data Platform.
Faça login no console do E-MapReduce com sua conta Alibaba Cloud.
Na barra de navegação superior, selecione a região e o grupo de recursos.
Clique na aba Data Development.
Na linha do projeto desejado, clique em Edite Job.
-
Crie um job Spark Shell.
No painel à esquerda, clique com o botão direito na pasta de destino e selecione Create Job.
Na caixa de diálogo Create Job, insira o job name e a job description e selecione Spark Shell na lista suspensa Job Type.
Clique em OK.
-
Edite o conteúdo do job.
-
No campo job content, insira o script Spark Shell.
Este exemplo usa o método de Monte Carlo para estimar o valor de Pi.
val count = sc.parallelize(1 to 100).filter { _ => val x = math.random val y = math.random x*x + y*y < 1 }.count(); println("Pi is roughly ${4.0 * count / 100}") Clique em Save.
-