E-MapReduce (EMR) では、EMR コンソールで Hadoop 分散ファイルシステム (HDFS)、YARN、Spark などのサービスの設定項目を変更、追加、および表示できます。このトピックでは、EMR コンソールで設定項目を変更、追加、および表示する方法について説明します。
前提条件
EMR クラスタが作成されていること。詳細については、「クラスタを作成する」をご参照ください。
設定項目の表示
EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。
上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。
[EMR On ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。
[サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。
検索ボックスに設定項目の名前を入力します。
ノードグループまたはノードレベルの設定項目が変更された場合、または設定項目の設定がクラスタレベルのデフォルト設定と一致しない場合は、[デフォルトのクラスタ構成] が選択されている [構成] タブに、ノードグループまたはノードレベルの設定項目の設定が表示されます。
ノードグループまたはノードレベルの設定項目の値を表示するには、特定のノードグループまたはノードを選択する必要があります。
異なるレベルで構成された設定項目の値は上書きされる可能性があります。設定項目の値は、ノード、ノードグループ、またはクラスタレベルで管理できます。設定項目の値は、次のレベルの優先順位で有効になります。ノード > ノードグループ > クラスタ。
デフォルトでは、サービスの [構成] タブには、デフォルトのクラスタレベルの設定項目が表示されます。[構成] タブで [デフォルトのクラスタ構成] が選択されている場合、ノードグループまたはノードレベルの設定項目は表示のみ可能です。ノードグループまたはノードレベルの設定項目を変更するには、次の操作を実行します。[デフォルトのクラスタ構成] ドロップダウンリストから [ノードグループ構成] または [独立ノード構成] を選択し、設定項目を変更して、構成を保存します。ノードレベルとノードグループレベルで特定の設定項目を変更できます。詳細については、「変更可能な設定項目」をご参照ください。
設定項目の変更
サービスの [構成] タブに移動します。
EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。
上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。
[EMR on ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。
[サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。
設定項目を変更します。
検索ボックスに変更する設定項目の名前を入力し、検索アイコンをクリックします。
設定項目の値を変更します。
構成を保存します。
Configure タブで、Save をクリックします。
[保存] ダイアログボックスで、Execution Reason パラメーターを構成し、Save をクリックします。
説明[保存] ダイアログボックスでは、[構成を保存して配信] スイッチがデフォルトでオンになっています。構成を保存すると、構成はクライアントにも送信されます。手動モードで構成を有効にすることができます。[保存] ダイアログボックスで [構成を保存して配信] をオフにすると、プロンプトモードで構成を有効にすることができます。
構成を有効にします。
変更を有効にするには、変更した設定項目のタイプに基づいて次の操作を実行します。
プロンプトモード
説明このモードは、EMR V5.12.1、EMR V3.46.1、または EMR V5.12.1 あるいは EMR V3.46.1 より後のマイナーバージョンでのみ使用できます。
クライアント側設定
構成を保存すると、
プロンプトが表示されます。
[配信予定] プロンプトをクリックします。
「配信する構成」メッセージで、[配信] をクリックします。
説明YARN サービスの場合、変更した設定項目にキュー関連の設定項目が含まれている場合は、変更を保存して配信した後、
プロンプトを [クリック] するか、YARN サービスページの [リソースキューの編集] タブで [デプロイ] を [クリック] して、変更を有効にする必要があります。
サーバー側設定
構成を保存すると、
プロンプトが表示されます。
[まだ有効になっていません] プロンプトをクリックします。
[有効になる構成] ダイアログボックスで、構成を有効にすることができるモードに基づいて設定を構成します。
[カスタム操作が必要な構成]
コンポーネントに対応する [操作] 列の項目を手動でクリックして、構成を有効にします。
[再起動が必要な構成]
コンポーネントに対応する [操作] 列の [再起動] をクリックします。または、複数のコンポーネントを選択し、[一括再起動] をクリックします。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
手動モード
クライアント側設定
ページ下部にある [保存] の横にある [クライアント構成のデプロイ] をクリックします。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
[確認] メッセージで、[OK] をクリックします。
サーバー側設定
を、[構成] タブの右上隅で選択します。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
[確認] メッセージで、[OK] をクリックします。
設定項目の追加
サービスの [構成] タブに移動します。
EMR コンソール にログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。
上部のナビゲーションバーで、ビジネス要件に基づいて リージョンとリソースグループを選択します。
[EMR on ECS] ページで、目的のクラスタを見つけ、[操作] 列の [サービス] をクリックします。
[サービス] タブで、目的のサービスを見つけ、[構成] をクリックします。
設定項目を追加します。
設定項目を追加するタブをクリックします。
Add Configuration Item をクリックします。
ビジネス要件に基づいて設定項目を追加します。
複数の設定項目を同時に追加できます。
項目
説明
キー
設定項目の名前。
値
設定項目の値。
説明
設定項目の説明。
アクション
設定項目を削除できます。
OK をクリックします。
表示されるダイアログボックスで、Execution Reason パラメーターを構成し、Save をクリックします。
構成を有効にします。
変更を有効にするには、変更した設定項目のタイプに基づいて次の操作を実行します。
プロンプトモード
説明このモードは、EMR V5.12.1、EMR V3.46.1、または EMR V5.12.1 あるいは EMR V3.46.1 より後のマイナーバージョンでのみ使用できます。
クライアント側設定
構成を保存すると、
プロンプトが表示されます。
[配信予定] プロンプトをクリックします。
「配信する構成」メッセージで、[配信] をクリックします。
説明YARN サービスの場合、変更した設定項目にキュー関連の設定項目が含まれている場合は、変更を保存して配信した後、
プロンプトを [クリック] するか、YARN サービスページの [リソースキューの編集] タブで [デプロイ] を [クリック] して変更を有効にする必要があります。
サーバー側設定
構成を保存すると、
プロンプトが表示されます。
[まだ有効になっていません] プロンプトをクリックします。
[有効になる構成] ダイアログボックスで、構成を有効にすることができるモードに基づいて設定を構成します。
[カスタム操作が必要な構成]
コンポーネントに対応する [操作] 列の項目を手動でクリックして、構成を有効にします。
[再起動が必要な構成]
コンポーネントに対応する [操作] 列の [再起動] をクリックします。または、複数のコンポーネントを選択し、[一括再起動] をクリックします。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
手動モード
クライアント側設定
ページ下部にある [保存] の横にある [クライアント構成のデプロイ] をクリックします。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
[確認] メッセージで、[OK] をクリックします。
サーバー側設定
を、[構成] タブの右上隅で選択します。
表示されるダイアログボックスで、[実行理由] パラメーターを構成し、[OK] をクリックします。
[確認] メッセージで、[OK] をクリックします。
変更可能な設定項目
次の表に、ノードレベルとノードグループレベル、または EMR V5.17.1 のクラスタのノードレベルまたはノードグループレベルで変更できる設定項目を示します。
Kerberos 関連の設定項目は、Kerberos 認証が有効になっている場合にのみ使用できます。
サービス名 | ファイル | 設定項目 |
Hadoop-Common | core-site.xml | fs.oss.tmp.data.dirs hadoop.tmp.dir |
HDFS | hdfs-env.sh | hadoop_datanode_heapsize hadoop_secondarynamenode_opts hadoop_namenode_heapsize |
hdfs-site.xml | dfs.datanode.data.dir dfs.datanode.failed.volumes.tolerated dfs.datanode.du.reserved dfs.datanode.balance.max.concurrent.moves | |
OSS-HDFS | なし | なし |
Hive | hive-env.sh | hive_metastore_heapsize hive_server2_heapsize |
Spark2 | hiveserver2-site.xml | hive.server2.authentication.kerberos.principal |
spark-env.sh | spark_history_daemon_memory spark_thrift_daemon_memory | |
spark-thriftserver.conf | spark.yarn.historyServer.address spark.hadoop.hive.server2.thrift.bind.host spark.yarn.principal | |
spark-defaults.conf | spark.yarn.historyServer.address spark.history.kerberos.principal | |
Spark3 | hiveserver2-site.xml | hive.server2.authentication.kerberos.principal |
spark-env.sh | spark_history_daemon_memory spark_thrift_daemon_memory | |
spark-thriftserver.conf | spark.yarn.historyServer.address spark.hadoop.hive.server2.thrift.bind.host spark.kerberos.principal | |
spark-defaults.conf | spark.yarn.historyServer.address spark.history.kerberos.principal | |
Tez | なし | なし |
Trino | iceberg.properties | hive.hdfs.trino.principal hive.metastore.client.principal |
delta.properties | hive.hdfs.trino.principal hive.metastore.client.principal | |
config.properties | coordinator node-scheduler.include-coordinator query.max-memory query.max-total-memory query.max-memory-per-node http-server.authentication.type http-server.authentication.krb5.user-mapping.pattern http-server.authentication.krb5.service-name http-server.authentication.krb5.keytab http.authentication.krb5.config http-server.https.enabled http-server.https.port http-server.https.keystore.key http-server.https.keystore.path event-listener.config-files 説明 event-listener.config-files は、イベントリスナーの設定ファイルが格納されているパスを指定します。この設定項目は、EmrEventListener をオンにした場合にのみ使用できます。 | |
jvm.config | jvm パラメーター | |
hudi.properties | hive.hdfs.trino.principal hive.metastore.client.principal | |
password-authenticator.properties | ldap.url ldap.user-bind-pattern | |
hive.properties | hive.hdfs.trino.principal hive.metastore.client.principal | |
DeltaLake | なし | なし |
Hudi | なし | なし |
Iceberg | なし | なし |
JindoData | storage.yaml | jindofsx.storage.cache-mode storage.watermark.high.ratio storage.watermark.low.ratio storage.handler.threads 説明
|
Flume | flume-conf.properties | agent_name flume-conf.properties |
Kyuubi | kyuubi-env.sh | kyuubi_java_opts |
YARN | yarn-site.xml | yarn.nodemanager.resource.memory-mb yarn.nodemanager.local-dirs yarn.nodemanager.log-dirs yarn.nodemanager.resource.cpu-vcores yarn.nodemanager.address yarn.nodemanager.node-labels.provider.configured-node-partition |
yarn-env.sh | YARN_RESOURCEMANAGER_HEAPSIZE YARN_TIMELINESERVER_HEAPSIZE YARN_PROXYSERVER_HEAPSIZE YARN_NODEMANAGER_HEAPSIZE YARN_RESOURCEMANAGER_HEAPSIZE_MIN YARN_TIMELINESERVER_HEAPSIZE_MIN YARN_PROXYSERVER_HEAPSIZE_MIN YARN_NODEMANAGER_HEAPSIZE_MIN | |
mapred-env.sh | HADOOP_JOB_HISTORYSERVER_HEAPSIZE | |
mapred-site.xml | mapreduce.cluster.local.dir | |
Impala | なし | なし |
OpenLDAP | なし | なし |
Ranger | なし | なし |
Ranger-Plugin | なし | なし |
DLF-Auth | なし | なし |
Presto | iceberg.properties | hive.hdfs.presto.principal hive.metastore.client.principal |
delta.properties | hive.hdfs.presto.principal hive.metastore.client.principal | |
hive.properties | hive.hdfs.presto.principal hive.metastore.client.principal | |
config.properties | coordinator node-scheduler.include-coordinator query.max-memory-per-node query.max-total-memory-per-node http-server.authentication.type http.authentication.krb5.principal-hostname http.server.authentication.krb5.service-name http.server.authentication.krb5.keytab http.authentication.krb5.config http-server.https.enabled http-server.https.port http-server.https.keystore.key http-server.https.keystore.path | |
jvm.config | jvm パラメーター | |
hudi.properties | hive.hdfs.presto.principal hive.metastore.client.principal | |
password-authenticator.properties | ldap.url ldap.user-bind-pattern | |
Starrocks2 | fe.conf | JAVA_OPTS meta_dir |
be.conf | storage_root_path JAVA_OPTS | |
Starrocks3 | fe.conf | JAVA_OPTS meta_dir |
be.conf | storage_root_path JAVA_OPTS | |
Doris | fe.conf | JAVA_OPTS JAVA_OPTS_FOR_JDK_9 meta_dir |
be.conf | storage_root_path | |
ClickHouse | server-config | interserver_http_host |
server-metrika | macros.shard macros.replica | |
Zookeeper | なし | なし |
Sqoop | なし | なし |
Knox | なし | なし |
Celeborn | celeborn-env.sh | CELEBORN_WORKER_MEMORY CELEBORN_WORKER_OFFHEAP_MEMORY CELEBORN_MASTER_MEMORY |
celeborn-defaults.conf | celeborn.worker.storage.dirs celeborn.worker.flusher.threads | |
Flink | flink-conf.yaml | security.kerberos.login.principal security.kerberos.login.keytab |
HBase | hbase-env.sh | hbase_master_opts hbase_thrift_opts hbase_rest_opts hbase_regionserver_opts |
hbase-site.xml | hbase.regionserver.handler.count hbase.regionserver.global.memstore.size hbase.regionserver.global.memstore.lowerLimit hbase.regionserver.thread.compaction.throttle hbase.regionserver.thread.compaction.large hbase.regionserver.thread.compaction.small | |
HBASE-HDFS | hdfs-env.sh | hadoop_secondarynamenode_opts hadoop_namenode_heapsize hadoop_datanode_heapsize |
hdfs-site.xml | dfs.datanode.data.dir dfs.datanode.failed.volumes.tolerated dfs.datanode.du.reserved dfs.datanode.balance.max.concurrent.moves | |
JindoCache | なし | なし |
Kafka | server.properties | broker.id num.network.threads num.io.threads kafka.heap.opts log.dirs kafka.public-access.ip listeners advertised.listeners 説明
|
kafka-internal-config | broker_id | |
user_params | is_local_disk_instance | |
Kudu | master.gflags | fs_data_dirs fs_wal_dir fs_metadata_dir log_dir |
tserver.gflags | fs_data_dirs fs_wal_dir fs_metadata_dir log_dir | |
Paimon | なし | なし |
Phoenix | なし | なし |