ワークフローは、明示的な依存関係を持つタスクを定義されたシーケンスでオーケストレーションします。ワークフローを作成し、スケジューリングプロパティを設定することで、指定した時刻にタスクを自動的に実行できます。
前提条件
-
ワークスペースを作成済みです。詳細については、「ワークスペースの管理」をご参照ください。
-
必要なタスクを開発および公開済みです。
ワークフローの作成
-
ワークフローページに移動します。
-
E-MapReduce コンソールにログインします。
-
左側のナビゲーションウィンドウで、EMR Serverless > Spark を選択します。
-
Spark ページで、対象のワークスペース名をクリックします。
-
EMR Serverless Spark ページで、左側のナビゲーションウィンドウの タスクオーケストレーション をクリックします。
-
-
タスクオーケストレーション ページで、Create Workflow をクリックします。
-
Create Workflow パネルで、以下のパラメーターを設定し、次へ をクリックします。
Parameter
Description
Name
ワークフロー名は、現在のワークスペース内で一意である必要があります。
Resource Queue
ワークフローを実行するデフォルトのリソースキューを選択します。
説明ノードのリソースキュー設定は、このデフォルトリソースキューをオーバーライドします。
Other Settings
Scheduling Type
本番環境でワークフローを実行するスケジューリングタイプです。
-
Manual(デフォルト):手動でトリガーした場合にのみワークフローが実行されます。
-
Scheduler:定義されたスケジュール(分、時、日)に基づき、ワークフローが自動的に実行されます。
Scheduling Type を Scheduler に設定する場合は、Scheduler および Scheduling Started At パラメーターも設定する必要があります。
Scheduler
ワークフローを自動実行する頻度です。Scheduling Type を Scheduler に設定した場合のみ必須です。
以下のスケジューリング周期を利用できます。
-
Daily:毎日指定時刻に 1 回実行されます。
-
Hourly:1 日の指定時間範囲内で、
every N hoursのような間隔で実行されます。 -
Minute:1 日の指定時間範囲内で、
every N minutesのような間隔で実行されます。
Scheduling Started At
スケジュールされたワークフローの開始日時です。デフォルトは現在時刻です。Scheduler タイプの場合のみ必須です。
重要Scheduler タイプのワークフローについては、タスクオーケストレーション ページで Scheduling Status トグルを有効にして、スケジュールをアクティブ化する必要があります。
Retries After Failure
ノードが失敗後にリトライする回数です。デフォルトはリトライなしです。
説明個々のノードの設定により、このパラメーターをオーバーライドできます。
Failure Notification
失敗通知を受信するメールアドレスです。
タグ
ワークフローに付与するキーと値のペアです。
-
-
ワークフローノードを編集します。
-
Edit Workflow ページで、下部の Add Node をクリックします。
-
Add Node パネルで、ノードパラメーターを設定します。
Parameter
Description
Path
このノードが実行するタスクへのパスです。タスクは公開済みである必要があります。
Node Type
ワークフローノードのタイプです。デフォルトでは、指定されたパスのタスクからシステムがタイプを推論します。
Node Name
ノードのカスタム名です。タスクソースから自動的に入力されます。
Upstream Nodes
ワークフロー内の先行ノードです。
最初のノードには先行ノードは不要です。
Failure Retries
ワークフローのリトライ設定を継承します。デフォルトはリトライなしです。
Timeout(seconds)
単一ノード実行のタイムアウトです。デフォルトは制限なしです。
Subscriptions
特定のノード状態に関する通知をサブスクライブするメールアドレスを指定します。
タグ
ノードのタグとなるキーと値のペアです。各ノードには、
workflow_nameおよびtask_nameの 2 つのビルトインタグが自動的に含まれます。Resource Queue
このノードのリソースキューです。この設定は、ワークフローのデフォルトリソースキューをオーバーライドします。
重要ノード固有のリソースキュー設定は、ワークフローのデフォルト設定よりも優先され、後でデフォルトが変更された場合でも適用されます。
説明タスクソースが SQL 開発の場合、タスクパラメーターも設定する必要があります。これらのパラメーターは、デフォルトでタスクテンプレートから値を継承します。デフォルト値を変更するには、タスクテンプレートを修正してください。パラメーターの詳細については、「構成管理」をご参照ください。
-
Save をクリックします。
初期ノードの設定後、ページ下部の Add Node をクリックして、さらにノードを追加できます。
-
-
ワークフローを公開します。
-
右上隅で、Publish Workflow をクリックします。
-
Publish ダイアログボックスで、リリースの説明を入力し、OK をクリックします。
-
ワークフローの実行
ワークフローの各実行は、ワークフロー詳細ページの Workflow Runs タブにレコードとして生成されます。
デバッグ
ワークフローを編集中に、最新バージョンをデバッグします。
-
Edit Workflow ページで、Debugging をクリックします。

-
Debugging ダイアログボックスで、開発環境からリソースキューを選択し、実行 をクリックします。
スケジュール実行
ワークフロー作成時に Scheduling Type を Scheduler に設定した場合、作成後に Scheduling Status トグルを有効にできます。これにより、ワークフローは指定時刻にトリガーされます。

手動実行
タスクオーケストレーション ページで、対象ワークフローの名前をクリックします。右上隅で 実行 をクリックし、ワークフローの実行方法を選択します。
-
Manually Run(デフォルト):スケジュールとは無関係に、ワークフローを即座に実行します。
-
Backfill:過去の期間についてワークフローを再実行し、失敗または見逃された実行によるデータを修正します。以下のパラメーターを設定します。
Parameter
Description
Cycle
選択した時間範囲について、ワークフロー実行が生成されます。
-
現在時刻が選択した周期の開始時刻を過ぎると、バックフィル実行が自動的に生成・実行されます。
-
ワークフローのスケジュール実行時刻が選択した周期内に該当する場合にのみ、バックフィルワークフロー実行が生成・実行されます。
-
ワークフローに時間変数(例:
${ds})が含まれる場合、システムが自動的に選択した周期の時刻に置き換えます。
Resource Queue
ワークフローのデフォルトリソースキューを使用します。本番環境で利用可能な他のキューを選択することもできます。
Remarks
バックフィル実行の説明です。今後の管理およびトラブルシューティングに役立ちます。
More
Failure Notification:バックフィルワークフロー実行が失敗した際にアラートを受信するメールアドレスを指定します。
-
実行ステータスの確認
対象ワークフローの Workflow Runs Status 列および Workflow Job Runs Status 列で、すべてのワークフロー実行およびノード実行のステータスを確認できます。
-
ワークフロー実行ステータス
Status
Description
Blue
実行中
Green
成功
Red
失敗
Purple
保留中
-
ワークフローノード実行ステータス
Status
Description
Blue
実行中
Green
成功
Red
失敗
Yellow
リトライ中
Purple
保留中
関連トピック
-
ワークフローの主要概念の詳細については、「基本概念」をご参照ください。
-
ワークフローおよびノード実行の確認方法については、「ワークフロー実行およびノード実行の管理」をご参照ください。