E-MapReduce:ノードグループのスケールイン

制限事項

• データ損失を避けるため、クラスター内のコアノードの数が Hadoop 分散ファイルシステム (HDFS) のレプリカ数と等しい場合は、コアノードグループをスケールインしないでください。

• クラスターが 2 つのマスターノードを持つ旧バージョンの高可用性 (HA) Hadoop クラスターである場合、emr-worker-1 ノードをスケールインしないでください (旧バージョンの高可用性クラスターでは、Zookeeper は worker-1 にデプロイされています)。

注意事項

• このトピックの操作はロールバックできません。コンポーネントを非公開にすると、サービスのコンポーネントは回復できません。

• このトピックでは、スケールイン操作のベストプラクティスについて説明します。ノードグループをスケールインする前にビジネスへの影響を評価し、注意して進めることをお勧めします。これにより、ジョブスケジューリングの失敗やデータセキュリティのリスクを防ぐことができます。

削除するノードの選択方法

ステップ 1: ノード上のコンポーネントを表示する

ノードを削除してコアノードグループまたはタスクノードグループをスケールインする場合、対応するノードリソースを解放する前に、まずそれらのノード上のコンポーネントを非公開にする必要があります。コンソールの [ノード] ページで、各ノードにどのコンポーネントがデプロイされているかを表示できます。

ステップ 2: ノードにデプロイされたコンポーネントを非公開にする

YARN サービスの NodeManager コンポーネントを非公開にする

1. YARN サービスページの [ステータス] タブに移動します。

   1. EMR コンソールにログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

   2. 上部のナビゲーションバーで、必要に応じてリージョンとリソースグループを選択します。

   3. [EMR On ECS] ページで、ターゲットクラスターを見つけ、[アクション] 列の [サービス] をクリックします。

   4. [クラスターサービス] ページで、YARN サービスエリアの [ステータス] をクリックします。

2. 目的のノードにデプロイされている NodeManager コンポーネントを非公開にします。

   1. [コンポーネント] リストで、NodeManager の [アクション] 列にある > [非公開] をクリックします。

   2. 表示されるダイアログボックスで、[実行範囲] > [特定のコンピューター] を選択し、[実行理由] を入力して、[OK] をクリックします。

   3. ポップアップダイアログボックスで、[OK] をクリックします。

3. 右上の [操作履歴] をクリックして、操作の進行状況を表示します。

HDFS サービスの DataNode コンポーネントを非公開にする

1. SSH モードでクラスターのマスターノードにログインします。詳細については、「クラスターへのログイン」をご参照ください。

2. hdfs ユーザーに切り替えて、NameNode の数を表示します。

   sudo su - hdfs
   hdfs haadmin -getAllServiceState

3. SSH モードで NameNode がデプロイされているノードにログインし、非公開にしたい DataNode コンポーネントのノードを dfs.exclude ファイルに追加します。一度に 1 つのノードのみを追加することをお勧めします。

   • Hadoop クラスター

     touch /etc/ecm/hadoop-conf/dfs.exclude
     vim /etc/ecm/hadoop-conf/dfs.exclude

     vim で o を押して新しい行を開始し、非公開にしたい DataNode のホスト名を入力します。

     emr-worker-3.cluster-xxxxx
     emr-worker-4.cluster-xxxxx

   • 非レガシー Hadoop クラスター

     touch /etc/taihao-apps/hdfs-conf/dfs.exclude
     vim /etc/taihao-apps/hdfs-conf/dfs.exclude

     o を入力して新しい行を挿入し、非公開にしたい DataNode のホスト名を入力します。

     core-1-3.c-0894dxxxxxxxxx
     core-1-4.c-0894dxxxxxxxxx

4. NameNode がデプロイされているノードで hdfs ユーザーに切り替えて、次のコマンドを実行します。その後、HDFS は自動的に DataNode コンポーネントの非公開を開始します。

   sudo su - hdfs
   hdfs dfsadmin -refreshNodes

5. 結果を確認します。

   次のコマンドを実行して、オフラインプロセスが完了したかどうかを判断します。

   hadoop dfsadmin -report

   ステータスが Decommissioned の場合、DataNode コンポーネントのデータは他のノードに移行され、DataNode コンポーネントは非公開になります。

StarRocks サービスのバックエンドコンポーネントを非公開にする

1. クラスターにログインし、クライアントを使用してアクセスします。詳細については、「クイックスタート」をご参照ください。

2. 次のコマンドを実行して、DECOMMISSION メソッドを使用して BE ノードを非公開にします。

   ALTER SYSTEM DECOMMISSION backend "be_ip:be_heartbeat_service_port";

   必要に応じて、次のパラメーターを置き換えます。

   • be_ip: スケールインしたい BE ノードの内部 IP アドレスです。[ノード] ページで IP アドレスを確認できます。

   • be_heartbeat_service_port: デフォルト値は 9050 です。show backends コマンドを実行してポートを表示できます。

   Decommission が遅い場合は、DROP メソッドを使用して BE を強制的に非公開にすることができます。

   重要

   DROP メソッドを使用して BE ノードを非公開にする場合は、システムに 3 つの完全なレプリカがあることを確認してください。

   ALTER SYSTEM DROP backend "be_ip:be_heartbeat_service_port";

3. 次のコマンドを実行して、BE ノードのステータスを確認します。

   show backends;

   

   SystemDecommissioned 列の値が true の場合、BE ノードは削除中です。TabletNum 列の値が 0 の場合、システムはメタデータをクリーンアップします。

   前の図に BE ノードが表示されていない場合、ノードは正常に削除されています。

HBase サービスの HRegionServer コンポーネントを非公開にする

1. HBase サービスページの [ステータス] タブに移動します。

   1. EMR コンソールにログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

   2. 上部のメニューバーで、必要に応じてリージョンとリソースグループを選択します。

   3. [EMR On ECS] ページで、目的のクラスターを見つけ、[アクション] 列の [サービス] をクリックします。

   4. [クラスターサービス] ページで、HBase サービスエリアの [ステータス] をクリックします。

2. 目的のノードにデプロイされている HRegionServer コンポーネントを非公開にします。

   1. [コンポーネント] セクションで、HRegionServer の [アクション] 列にある [停止] をクリックします。

   2. ダイアログボックスで、[実行範囲] > [特定のコンピューター] を選択し、[実行理由] を入力して、[OK] をクリックします。

   3. ダイアログボックスで、[OK] をクリックします。

3. 右上の [操作履歴] をクリックして、操作の進行状況を表示します。

HBase-HDFS サービスの DataNode コンポーネントを非公開にする

1. SSH モードでクラスターのマスターノードにログインします。詳細については、「クラスターへのログイン」をご参照ください。

2. 次のコマンドを実行して hdfs ユーザーに切り替え、環境変数を設定します。

   sudo su - hdfs
   export HADOOP_CONF_DIR=/etc/taihao-apps/hdfs-conf/namenode

3. 次のコマンドを実行して、NameNode に関する情報を表示します。

   hdfs dfsadmin -report

4. SSH モードで NameNode がデプロイされているノードにログインし、DataNode コンポーネントを非公開にしたいノードを dfs.exclude ファイルに追加します。一度に 1 つのノードのみを追加することをお勧めします。

   touch /etc/taihao-apps/hdfs-conf/dfs.exclude
   vim /etc/taihao-apps/hdfs-conf/dfs.exclude

   vim で o を押して新しい行を開始し、非公開にしたい DataNode のホスト名を入力します。

   core-1-3.c-0894dxxxxxxxxx
   core-1-4.c-0894dxxxxxxxxx

5. NameNode がデプロイされているノードで hdfs ユーザーに切り替えて、次のコマンドを実行します。その後、HDFS は自動的に DataNode コンポーネントの非公開を開始します。

   sudo su - hdfs
   export HADOOP_CONF_DIR=/etc/taihao-apps/hdfs-conf/namenode
   hdfs dfsadmin -refreshNodes

6. 結果を確認します。

   次のコマンドを実行して、DataNode コンポーネントが非公開になっているかどうかを確認します。

   hadoop dfsadmin -report

   ステータスが Decommissioned の場合、DataNode コンポーネントのデータは他のノードに移行され、DataNode コンポーネントは非公開になります。

   SmartData サービスの JindoStorageService コンポーネントを非公開にする (Hadoop クラスター)

   1. SmartData サービスページの [ステータス] タブに移動します。

      1. EMR コンソールにログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

      2. 上部のメニューバーで、必要に応じてリージョンとリソースグループを選択します。

      3. [EMR On ECS] ページで、ターゲットクラスターの [アクション] 列にある [サービス] をクリックします。

      4. [クラスターサービス] ページで、SmartData サービスエリアの [ステータス] をクリックします。

   2. 目的のノードにデプロイされている JindoStorageService コンポーネントを非公開にします。

      1. [コンポーネントリスト] で、JindoStorageService の [アクション] 列にある > [非公開] をクリックします。

      2. 表示されるダイアログボックスで、[実行範囲] > [特定のコンピューター] を選択し、[実行理由] を入力して、[OK] をクリックします。

      3. ポップアップダイアログボックスで、[OK] をクリックします。

   3. 右上の [操作履歴] をクリックして、操作の進行状況を表示します。

ステップ 3: ノードを解放する

1. [ノード] タブに移動します。

   1. EMR コンソールにログインします。左側のナビゲーションウィンドウで、[EMR on ECS] をクリックします。

   2. 上部のナビゲーションバーで、必要に応じてリージョンとリソースグループを選択します。

   3. [EMR On ECS] ページで、目的のクラスターを見つけ、[アクション] 列の [ノード] をクリックします。

2. [ノード] ページで、解放したいノードの ECS ID をクリックします。

   Elasitc Compute Service (ECS) コンソールに移動します。

3. ECS コンソールでインスタンスを解放します。詳細については、「インスタンスの解放」をご参照ください。

参考資料

• 従量課金またはプリエンプティブルインスタンスを含むタスクノードグループをスケールインする方法の詳細については、「クラスターのスケールイン」をご参照ください。

• クラスターの計算リソースが不足している場合は、コアノードグループとタスクノードグループをスケールアウトできます。詳細については、「クラスターのスケールアウト」をご参照ください。

• 必要に応じてクラスターの計算リソースを自動的に調整したい場合は、ノードグループにマネージド自動スケーリングまたはカスタム自動スケーリングルールを設定できます。詳細については、「Auto Scaling」をご参照ください。