Utilice la función de configuración de software personalizado para modificar o agregar elementos de configuración en servicios como YARN y Hive.
Configurar durante la creación del clúster
Inicie sesión en la consola de E-MapReduce.
En la barra de menús superior, seleccione una región y un resource group según sus necesidades.
En la página EMR on ECS, haga clic en CREATE_CLUSTER.
-
En la sección Software Configuration, dentro de Advanced Settings, active el interruptor Custom Software Configuration.
Agregue un archivo de configuración con formato JSON para sobrescribir los parámetros predeterminados del servicio o añadir nuevos durante la creación del clúster. Por ejemplo:
[ { "ApplicationName":"YARN", "ConfigFileName":"yarn-site.xml", "ConfigItemKey":"yarn.nodemanager.resource.cpu-vcores", "ConfigItemValue":"8" }, { "ApplicationName":"YARN", "ConfigFileName":"yarn-site.xml", "ConfigItemKey":"aaa", "ConfigItemValue":"bbb" } ]-
La siguiente tabla describe los parámetros.
Parámetro
Descripción
ApplicationName
El nombre del servicio, en mayúsculas.
ConfigFileName
El nombre del archivo de configuración que se va a modificar.
NotaSiga las convenciones de nomenclatura de archivos que se indican a continuación.
-
Para los clústeres Data Lake, DataFlow, OLAP, DataServing o Custom, la extensión del archivo es obligatoria. Por ejemplo:
yarn-site.xml. -
Para los clústeres de lago de datos heredados (Hadoop), no se requiere la extensión del archivo. Por ejemplo:
yarn-site.
ConfigItemKey
El nombre del elemento de configuración.
ConfigItemValue
El valor del elemento de configuración.
-
-
La siguiente tabla muestra los archivos de configuración correspondientes a cada servicio.
Servicio
Archivo de configuración
YARN
-
core-site.xml
-
log4j.properties
-
hdfs-site.xml
-
mapred-site.xml
-
yarn-site.xml
-
httpfs-site.xml
-
capacity-scheduler.xml
-
hadoop-env.sh
-
httpfs-env.sh
-
mapred-env.sh
-
yarn-env.sh
Hive
-
hive-env.sh
-
hive-site.xml
-
hive-exec-log4j.properties
-
hive-log4j.properties
-
Una vez configurados los parámetros, continúe con la creación del clúster. Para obtener más información, consulte Create Cluster.
-
Configurar al agregar un grupo de nodos
Cuando agregue un grupo de nodos para escalar horizontalmente un clúster en ejecución, también podrá ajustar las configuraciones de los servicios. Para obtener más información, consulte Manage Node Groups.
Documentos relacionados
Después de crear el clúster, puede modificar las configuraciones desde la página específica de cada servicio. Para obtener más información, consulte Manage Configuration Items.