すべてのプロダクト
Search
ドキュメントセンター

E-MapReduce:設定項目の管理

最終更新日:Mar 17, 2025

E-MapReduce (EMR) では、EMR コンソールで Hadoop 分散ファイルシステム (HDFS)、YARN、Spark などのサービスの設定項目を変更、追加、および表示できます。このトピックでは、EMR コンソールで設定項目を変更、追加、および表示する方法について説明します。

前提条件

EMR クラスタが作成されていること。詳細については、「クラスタを作成する」をご参照ください。

設定項目の表示

  1. EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

  2. 上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。

  3. [EMR On ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。

  4. [サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。

  5. 検索ボックスに設定項目の名前を入力します。

説明
  • ノードグループまたはノードレベルの設定項目が変更された場合、または設定項目の設定がクラスタレベルのデフォルト設定と一致しない場合は、[デフォルトのクラスタ構成] が選択されている [構成] タブに、ノードグループまたはノードレベルの設定項目の設定が表示されます。

  • ノードグループまたはノードレベルの設定項目の値を表示するには、特定のノードグループまたはノードを選択する必要があります。

  • 異なるレベルで構成された設定項目の値は上書きされる可能性があります。設定項目の値は、ノード、ノードグループ、またはクラスタレベルで管理できます。設定項目の値は、次のレベルの優先順位で有効になります。ノード > ノードグループ > クラスタ。

デフォルトでは、サービスの [構成] タブには、デフォルトのクラスタレベルの設定項目が表示されます。[構成] タブで [デフォルトのクラスタ構成] が選択されている場合、ノードグループまたはノードレベルの設定項目は表示のみ可能です。ノードグループまたはノードレベルの設定項目を変更するには、次の操作を実行します。[デフォルトのクラスタ構成] ドロップダウンリストから [ノードグループ構成] または [独立ノード構成] を選択し、設定項目を変更して、構成を保存します。ノードレベルとノードグループレベルで特定の設定項目を変更できます。詳細については、「変更可能な設定項目」をご参照ください。

image

設定項目の変更

  1. サービスの [構成] タブに移動します。

    1. EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

    2. 上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。

    3. [EMR on ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。

    4. [サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。

  2. 設定項目を変更します。

    1. 検索ボックスに変更する設定項目の名前を入力し、検索アイコンをクリックします。

    2. 設定項目の値を変更します。

  3. 構成を保存します。

    1. Configure タブで、Save をクリックします。

    2. [保存] ダイアログボックスで、Execution Reason パラメーターを構成し、Save をクリックします。

      説明

      [保存] ダイアログボックスでは、[構成を保存して配信] スイッチがデフォルトでオンになっています。構成を保存すると、構成はクライアントにも送信されます。手動モードで構成を有効にすることができます。[保存] ダイアログボックスで [構成を保存して配信] をオフにすると、プロンプトモードで構成を有効にすることができます。

  4. 構成を有効にします。

    変更を有効にするには、変更した設定項目のタイプに基づいて次の操作を実行します。

    プロンプトモード

    説明

    このモードは、EMR V5.12.1、EMR V3.46.1、または EMR V5.12.1 あるいは EMR V3.46.1 より後のマイナーバージョンでのみ使用できます。

    • クライアント側設定

      1. 構成を保存すると、image.png プロンプトが表示されます。

      2. [配信予定] プロンプトをクリックします。

      3. 「配信する構成」メッセージで、[配信] をクリックします。

        説明

        YARN サービスの場合、変更した設定項目にキュー関連の設定項目が含まれている場合は、変更を保存して配信した後、image.png プロンプトを [クリック] するか、YARN サービスページの [リソースキューの編集] タブで [デプロイ] を [クリック] して、変更を有効にする必要があります。

    • サーバー側設定

      1. 構成を保存すると、image.png プロンプトが表示されます。

      2. [まだ有効になっていません] プロンプトをクリックします。

      3. [有効になる構成] ダイアログボックスで、構成を有効にすることができるモードに基づいて設定を構成します。

        • [カスタム操作が必要な構成]

          コンポーネントに対応する [操作] 列の項目を手動でクリックして、構成を有効にします。

        • [再起動が必要な構成]

          1. コンポーネントに対応する [操作] 列の [再起動] をクリックします。または、複数のコンポーネントを選択し、[一括再起動] をクリックします。

          2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

    手動モード

    • クライアント側設定

      1. ページ下部にある [保存] の横にある [クライアント構成のデプロイ] をクリックします。

      2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

      3. [確認] メッセージで、[OK] をクリックします。

    • サーバー側設定

      1. [その他] > [再起動] を、[構成] タブの右上隅で選択します。

      2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

      3. [確認] メッセージで、[OK] をクリックします。

設定項目の追加

  1. サービスの [構成] タブに移動します。

    1. EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

    2. 上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。

    3. [EMR on ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。

    4. [サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。

  2. 設定項目を追加します。

    1. 設定項目を追加するタブをクリックします。

    2. Add Configuration Item をクリックします。

    3. ビジネス要件に基づいて設定項目を追加します。

      複数の設定項目を同時に追加できます。

      項目

      説明

      キー

      設定項目の名前。

      設定項目の値。

      説明

      設定項目の説明。

      アクション

      設定項目を削除できます。

    4. OK をクリックします。

    5. 表示されるダイアログボックスで、Execution Reason パラメーターを構成し、Save をクリックします。

  3. 構成を有効にします。

    変更を有効にするには、変更した設定項目のタイプに基づいて次の操作を実行します。

    プロンプトモード

    説明

    このモードは、EMR V5.12.1、EMR V3.46.1、または EMR V5.12.1 あるいは EMR V3.46.1 より後のマイナーバージョンでのみ使用できます。

    • クライアント側設定

      1. 構成を保存すると、image.png プロンプトが表示されます。

      2. [配信予定] プロンプトをクリックします。

      3. 「配信する構成」メッセージで、[配信] をクリックします。

        説明

        YARN サービスの場合、変更した設定項目にキュー関連の設定項目が含まれている場合は、変更を保存して配信した後、image.png プロンプトを [クリック] するか、YARN サービスページの [リソースキューの編集] タブで [デプロイ] を [クリック] して変更を有効にする必要があります。

    • サーバー側設定

      1. 構成を保存すると、image.png プロンプトが表示されます。

      2. [まだ有効になっていません] プロンプトをクリックします。

      3. [有効になる構成] ダイアログボックスで、構成を有効にすることができるモードに基づいて設定を構成します。

        • [カスタム操作が必要な構成]

          コンポーネントに対応する [操作] 列の項目を手動でクリックして、構成を有効にします。

        • [再起動が必要な構成]

          1. コンポーネントに対応する [操作] 列の [再起動] をクリックします。または、複数のコンポーネントを選択し、[一括再起動] をクリックします。

          2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

    手動モード

    • クライアント側設定

      1. ページ下部にある [保存] の横にある [クライアント構成のデプロイ] をクリックします。

      2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

      3. [確認] メッセージで、[OK] をクリックします。

    • サーバー側設定

      1. [その他] > [再起動] を、[構成] タブの右上隅で選択します。

      2. 表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。

      3. [確認] メッセージで、[OK] をクリックします。

変更可能な設定項目

次の表に、ノードレベルとノードグループレベル、または EMR V5.17.1 のクラスタのノードレベルまたはノードグループレベルで変更できる設定項目を示します。

説明

Kerberos 関連の設定項目は、Kerberos 認証が有効になっている場合にのみ使用できます。

サービス名

ファイル

設定項目

Hadoop-Common

core-site.xml

fs.oss.tmp.data.dirs

hadoop.tmp.dir

HDFS

hdfs-env.sh

hadoop_datanode_heapsize

hadoop_secondarynamenode_opts

hadoop_namenode_heapsize

hdfs-site.xml

dfs.datanode.data.dir

dfs.datanode.failed.volumes.tolerated

dfs.datanode.du.reserved

dfs.datanode.balance.max.concurrent.moves

OSS-HDFS

なし

なし

Hive

hive-env.sh

hive_metastore_heapsize

hive_server2_heapsize

Spark2

hiveserver2-site.xml

hive.server2.authentication.kerberos.principal

spark-env.sh

spark_history_daemon_memory

spark_thrift_daemon_memory

spark-thriftserver.conf

spark.yarn.historyServer.address

spark.hadoop.hive.server2.thrift.bind.host

spark.yarn.principal

spark-defaults.conf

spark.yarn.historyServer.address

spark.history.kerberos.principal

Spark3

hiveserver2-site.xml

hive.server2.authentication.kerberos.principal

spark-env.sh

spark_history_daemon_memory

spark_thrift_daemon_memory

spark-thriftserver.conf

spark.yarn.historyServer.address

spark.hadoop.hive.server2.thrift.bind.host

spark.kerberos.principal

spark-defaults.conf

spark.yarn.historyServer.address

spark.history.kerberos.principal

Tez

なし

なし

Trino

iceberg.properties

hive.hdfs.trino.principal

hive.metastore.client.principal

delta.properties

hive.hdfs.trino.principal

hive.metastore.client.principal

config.properties

coordinator

node-scheduler.include-coordinator

query.max-memory

query.max-total-memory

query.max-memory-per-node

http-server.authentication.type

http-server.authentication.krb5.user-mapping.pattern

http-server.authentication.krb5.service-name

http-server.authentication.krb5.keytab

http.authentication.krb5.config

http-server.https.enabled

http-server.https.port

http-server.https.keystore.key

http-server.https.keystore.path

event-listener.config-files

説明

event-listener.config-files は、イベントリスナーの設定ファイルが格納されているパスを指定します。この設定項目は、EmrEventListener をオンにした場合にのみ使用できます。

jvm.config

jvm パラメーター

hudi.properties

hive.hdfs.trino.principal

hive.metastore.client.principal

password-authenticator.properties

ldap.url

ldap.user-bind-pattern

hive.properties

hive.hdfs.trino.principal

hive.metastore.client.principal

DeltaLake

なし

なし

Hudi

なし

なし

Iceberg

なし

なし

JindoData

storage.yaml

jindofsx.storage.cache-mode

storage.watermark.high.ratio

storage.watermark.low.ratio

storage.handler.threads

説明
  • JindoData は、EMR V5.14.0 以降のマイナーバージョンのクラスタと EMR V3.48.0 以降のマイナーバージョンのクラスタに適用されます。

  • JindoData は、EMR V5.15.0 以降のマイナーバージョンのクラスタと EMR V3.49.0 以降のマイナーバージョンのクラスタでは使用できません。データキャッシュには JindoCache を、認証には DLF-Auth を使用できます。

Flume

flume-conf.properties

agent_name

flume-conf.properties

Kyuubi

kyuubi-env.sh

kyuubi_java_opts

YARN

yarn-site.xml

yarn.nodemanager.resource.memory-mb

yarn.nodemanager.local-dirs

yarn.nodemanager.log-dirs

yarn.nodemanager.resource.cpu-vcores

yarn.nodemanager.address

yarn.nodemanager.node-labels.provider.configured-node-partition

yarn-env.sh

YARN_RESOURCEMANAGER_HEAPSIZE

YARN_TIMELINESERVER_HEAPSIZE

YARN_PROXYSERVER_HEAPSIZE

YARN_NODEMANAGER_HEAPSIZE

YARN_RESOURCEMANAGER_HEAPSIZE_MIN

YARN_TIMELINESERVER_HEAPSIZE_MIN

YARN_PROXYSERVER_HEAPSIZE_MIN

YARN_NODEMANAGER_HEAPSIZE_MIN

mapred-env.sh

HADOOP_JOB_HISTORYSERVER_HEAPSIZE

mapred-site.xml

mapreduce.cluster.local.dir

Impala

なし

なし

OpenLDAP

なし

なし

Ranger

なし

なし

Ranger-Plugin

なし

なし

DLF-Auth

なし

なし

Presto

iceberg.properties

hive.hdfs.presto.principal

hive.metastore.client.principal

delta.properties

hive.hdfs.presto.principal

hive.metastore.client.principal

hive.properties

hive.hdfs.presto.principal

hive.metastore.client.principal

config.properties

coordinator

node-scheduler.include-coordinator

query.max-memory-per-node

query.max-total-memory-per-node

http-server.authentication.type

http.authentication.krb5.principal-hostname

http.server.authentication.krb5.service-name

http.server.authentication.krb5.keytab

http.authentication.krb5.config

http-server.https.enabled

http-server.https.port

http-server.https.keystore.key

http-server.https.keystore.path

jvm.config

jvm パラメーター

hudi.properties

hive.hdfs.presto.principal

hive.metastore.client.principal

password-authenticator.properties

ldap.url

ldap.user-bind-pattern

Starrocks2

fe.conf

JAVA_OPTS

meta_dir

be.conf

storage_root_path

JAVA_OPTS

Starrocks3

fe.conf

JAVA_OPTS

meta_dir

be.conf

storage_root_path

JAVA_OPTS

Doris

fe.conf

JAVA_OPTS

JAVA_OPTS_FOR_JDK_9

meta_dir

be.conf

storage_root_path

ClickHouse

server-config

interserver_http_host

server-metrika

macros.shard

macros.replica

Zookeeper

なし

なし

Sqoop

なし

なし

Knox

なし

なし

Celeborn

celeborn-env.sh

CELEBORN_WORKER_MEMORY

CELEBORN_WORKER_OFFHEAP_MEMORY

CELEBORN_MASTER_MEMORY

celeborn-defaults.conf

celeborn.worker.storage.dirs

celeborn.worker.flusher.threads

Flink

flink-conf.yaml

security.kerberos.login.principal

security.kerberos.login.keytab

HBase

hbase-env.sh

hbase_master_opts

hbase_thrift_opts

hbase_rest_opts

hbase_regionserver_opts

hbase-site.xml

hbase.regionserver.handler.count

hbase.regionserver.global.memstore.size

hbase.regionserver.global.memstore.lowerLimit

hbase.regionserver.thread.compaction.throttle

hbase.regionserver.thread.compaction.large

hbase.regionserver.thread.compaction.small

HBASE-HDFS

hdfs-env.sh

hadoop_secondarynamenode_opts

hadoop_namenode_heapsize

hadoop_datanode_heapsize

hdfs-site.xml

dfs.datanode.data.dir

dfs.datanode.failed.volumes.tolerated

dfs.datanode.du.reserved

dfs.datanode.balance.max.concurrent.moves

JindoCache

なし

なし

Kafka

server.properties

broker.id

num.network.threads

num.io.threads

kafka.heap.opts

log.dirs

kafka.public-access.ip

listeners

advertised.listeners

説明

kafka.public-access.ip は、Kafka ブローカーのパブリック IP アドレスを指定します。この設定項目を使用して、パブリック IP アドレスを持つリスナーを構成できます。

kafka-internal-config

broker_id

user_params

is_local_disk_instance

Kudu

master.gflags

fs_data_dirs

fs_wal_dir

fs_metadata_dir

log_dir

tserver.gflags

fs_data_dirs

fs_wal_dir

fs_metadata_dir

log_dir

Paimon

なし

なし

Phoenix

なし

なし