このトピックでは、E-MapReduce (EMR) テーブルを作成する手順について説明します。
背景情報
レガシーデータ開発: EMR コンピューティングリソースを作成すると、プラットフォームによって Data Map にクラスターメタデータを収集するための EMR メタデータクローラーが自動的に作成されます。 EMR コンピューティングリソースを作成した後もこのページで EMR データベースを選択できない場合は、データマップに移動し、クラスターのメタデータクローラーを見つけて、メタデータを再度収集してください。 詳細については、「E-MapReduce メタデータを収集する」をご参照ください。
操作手順
-
[DataStudio] ページに移動します。
DataWorks コンソールにログインします。 左側のナビゲーションウィンドウで、 を選択します。 表示されるページで、ドロップダウンリストから目的のワークスペースを選択し、[DataStudioに移動] をクリックします。
-
アイコンにカーソルを合わせ、 をクリックします。別の方法として、目的のワークフローを見つけ、EMR を右クリックし、Create Table をクリックします。
-
Create Table ダイアログボックスで、エンジンインスタンスやパスなど、テーブルのパラメーターを設定します。
[エンジンタイプ] で EMR を選択し、[データベース] と [名前] を指定してから、[作成] をクリックします。
-
Create をクリックしてテーブルエディターを開きます。
-
General セクションで、パラメーターを設定します。
パラメータ
説明
[Level-1 Folder]
テーブルのレベル 1 フォルダーです。
説明レベル 1 とレベル 2 のフォルダーは、DataWorks でテーブルを整理し、管理しやすくします。
[Level-2 Folder]
テーブルのレベル 2 フォルダーです。
[Create Folder]
Create Folder をクリックして Folder Management ページに移動します。このページでは、レベル 1 フォルダーとレベル 2 フォルダーを作成できます。
[Refresh]
フォルダーを作成した後、Refresh をクリックします。
[Description]
新しいテーブルの簡単な説明です。
-
Physical Model セクションで、パラメーターを設定します。
サポートされているストレージ形式には、ORC、PARQUET、SEQUENCEFILE、AVRO、TEXTFILE、JSON、RCFile、カスタムがあります。
パラメータ
説明
[Layer]
ドロップダウンリストからレイヤーと物理分類を選択します。新しいレイヤーまたは物理分類を作成するには、ワークスペース管理者に連絡するか、Create Level をクリックし、Level Management ページで追加します。作成後、Refresh をクリックします。
[物理分類]
[Partition Type]
オプションはPartitioned TableとNon-partitioned Tableです。
[Table Type]
オプションはInternal TableとExternal Tableです。
[ストレージ形式の選択]
ビジネス要件に基づいて、テーブル内のファイルのストレージ形式を選択します。
-
Schema セクションで、パラメーターを設定します。
パラメータ
説明
[Create Field]
Create Field をクリックしてフィールド情報を設定し、Save をクリックして新しいフィールドを追加します。
[Up]
新しいテーブルのフィールド順序を調整します。既存のテーブルのフィールドの順序を変更する場合は、現在のテーブルを削除し、同じ名前で新しいテーブルを作成する必要があります。この操作は本番環境では禁止されています。
[Down]
[Field Name]
フィールド名です。英字、数字、アンダースコア (_) のみ使用できます。
[Field Type]
サポートされているデータ型: TINYINT、SMALLINT、INT、BIGINT、FLOAT、DOUBLE、DECIMAL、VARCHAR、CHAR、STRING、BINARY、DATETIME、DATE、TIMESTAMP、ブール型、ARRAY、MAP、STRUCT。
[Definition or Maximum Value Length]
選択したデータ型に長さが必要な場合は、テキストボックスで長さを指定します。
[Description]
フィールドの説明です。
[Primary Key]
フィールドをプライマリキーとして設定します。プライマリキーは、レコードの一意性を保証するビジネス概念です。DataWorks はプライマリキー制約を適用しません。
[Edit]
フィールドを保存した後、Edit をクリックして設定を変更し、Save をクリックします。
[Delete]
フィールドを削除します。
説明既存のテーブルからフィールドを削除して変更を送信する場合は、現在のテーブルを削除し、同じ名前で新しいテーブルを作成する必要があります。この操作は本番環境では禁止されています。
[Add Partition]
Physical Model セクションで Partition Type を Partitioned Table に設定した場合、パーティションフィールドを設定する必要があります。
現在のテーブルにパーティションを追加できます。既存のテーブルにパーティションを追加する場合は、現在のテーブルを削除し、同じ名前で新しいテーブルを作成する必要があります。この操作は本番環境では禁止されています。
-
ツールバーで、
アイコンをクリックして、EMR テーブルを本番環境に送信します。Standard Mode のワークスペースを使用する場合は、まずテーブルを開発環境に送信してから、本番環境に送信する必要があります。
説明テーブルを送信する際は、スケジューリングリソースグループを選択する必要があります。サーバーレスリソースグループを使用する場合、DataWorks はテーブル作成タスクをエンジンに送信し、実行ログを出力します。実行ログを使用して、送信に関する問題をトラブルシューティングできます。サーバーレスリソースグループが利用できない場合は、購入して設定してください。詳細については、「サーバーレスリソースグループの使用」をご参照ください。