すべてのプロダクト
Search
ドキュメントセンター

E-MapReduce:SPARK

最終更新日:Apr 15, 2025

SPARK ノードは、Spark アプリケーションを実行するために使用されます。このトピックでは、SPARK ノードの作成に関連するパラメーターについて説明します。

パラメーター

パラメーター

説明

[ノード名]

ノードの名前。ノード名はワークフロー内で一意です。

[実行フラグ]

  • [標準]: ワークフローの実行時にノードが実行されます。

  • [実行禁止]: ワークフローの実行時にノードは実行されません。

[説明]

ノードの機能説明。

[タスクの優先度]

ワークフロー内でのノードの優先度。デフォルト値:MEDIUM。有効な値:

  • HIGHEST

  • HIGH

  • MEDIUM

  • LOW

  • LOWEST

[失敗時の再試行回数]

ワークフローが失敗した場合に、システムがノードの実行を自動的に再試行する最大回数。

[失敗時の再試行間隔]

連続する 2 回の再試行の間隔。単位:分。

[実行遅延時間]

ノードが実行されるまでに遅延される時間。デフォルト値は 0 で、ノードが作成された直後に実行されることを示します。このパラメーターに 0 より大きい値を指定した場合にのみ、ノードの実行が遅延されます。単位:分。

[タイムアウトアラーム]

ノード実行のタイムアウト時にアラートを有効にするかどうかを指定します。デフォルトでは、タイムアウトアラームスイッチはオフになっています。[タイムアウトアラーム] スイッチをオンにし、[タイムアウトアラーム][タイムアウト失敗][タイムアウト戦略] として選択できます。ノードの実行がタイムアウト期間を超えると、アラートメッセージがメールボックスに送信され、ノードは失敗します。

[プログラムタイプ]

プログラミング言語のタイプ。有効な値:[JAVA][SCALA][PYTHON][SQL]、および [CUSTOM_SCRIPT]

説明

表示されるパラメーターは、選択したプログラミング言語のタイプによって異なります。コンソールに表示されるパラメーターが優先されます。

[メインクラス]

Spark アプリケーションの main メソッドを含むクラスの完全なパス。

[メインパッケージ]

Spark アプリケーションの実行に使用される JAR パッケージ。JAR パッケージは、リソース管理機能を使用してアップロードされます。詳細については、「リソース管理」をご参照ください。

[デプロイモード]

デプロイモード。このパラメーターを cluster に設定します。

[スクリプト]

  • スクリプト。[プログラムの種類] パラメーターを [SQL] に設定した場合、[スクリプト] フィールドに SQL 文を入力する必要があります。

  • [プログラムタイプ] パラメーターを [CUSTOM_SCRIPT] に設定した場合は、[スクリプト] フィールドに完全な spark-submit または spark-sql コマンドを入力する必要があります。

[アプリ名]

Spark アプリケーションの名前。

[ドライバーコア数]

ドライバーコアの数。実際の運用環境に基づいてこのパラメーターを設定します。

[ドライバーメモリ]

ドライバーメモリのサイズ。実際の運用環境に基づいてこのパラメーターを設定します。

[エグゼキュータ数]

エグゼキュータの数。実際の運用環境に基づいてこのパラメーターを設定します。

[エグゼキュータメモリ]

エグゼキュータメモリのサイズ。実際の運用環境に基づいてこのパラメーターを設定します。

[エグゼキュータコア数]

エグゼキュータコアの数。実際の運用環境に基づいてこのパラメーターを設定します。

[メイン引数]

Spark アプリケーションの入力パラメーター。入力パラメーターで定義されたカスタム変数を置き換えることができます。

[オプションパラメーター]

オプションパラメーター。サポートされている形式:--jars--files--archives、および --conf

[リソース]

ノードの実行に必要なリソースファイル。リソースファイルが他のパラメーターによって参照されている場合は、[リソース] タブの [ファイル管理] ページでファイルを作成またはアップロードし、[リソース] としてファイルを選択していることを確認してください。

[カスタムパラメーター]

ノードのカスタムパラメーター。カスタムパラメーターは、スクリプト内の ${Variable} を置き換えるために使用されます。

[先行タスク]

現在のノードの先祖ノード。