Configure un trabajo de Spark Shell para ejecutar scripts interactivos de Spark en su clúster de EMR.
Requisitos previos
Asegúrese de haber creado un proyecto. Para obtener más información, consulte
.
Procedimiento
-
Vaya a la página Projects de Data Platform.
Inicie sesión en la E-MapReduce console con su cuenta de Alibaba Cloud.
En la barra de navegación superior, seleccione la región y el resource group.
Haga clic en la pestaña Data Development.
En la fila del proyecto que desee editar, haga clic en Edit Job.
-
Cree un trabajo de Spark Shell.
En la parte izquierda de la página, haga clic con el botón derecho en la carpeta de destino y seleccione Create Job.
En el cuadro de diálogo Create Job, introduzca un job name y una job description, y seleccione Spark Shell en la lista desplegable Job Type.
Haga clic en OK.
-
Edite el contenido del trabajo.
-
En el campo job content, introduzca el script de Spark Shell.
Este ejemplo utiliza el método de Montecarlo para estimar el valor de Pi.
val count = sc.parallelize(1 to 100).filter { _ => val x = math.random val y = math.random x*x + y*y < 1 }.count(); println("Pi is roughly ${4.0 * count / 100}") Haga clic en Save.
-