DataWorks データモデリングでは、モデリングの前、またはビジネスニーズの発生に応じてデータ標準を定義できます。ルックアップテーブル、測定単位、フィールド標準、命名辞書などの標準を定義することで、モデリングとアプリケーション開発全体を通じてデータ整合性を確保できます。このプラクティスにより、ソースでのデータ生成が標準化され、その後のデータ活用や処理にかかるコストを削減できます。
サポートされるデータ標準
DataWorks は、Field Standard、Lookup Table、Measurement Unit、Naming Dictionary といったデータ標準をサポートしています。
フィールド標準
フィールド標準は、フィールドの名前、データの型、値の範囲などの定義を正規化します。同じ意味を持つフィールドを標準化することで、名前やデータの型の違いによる混乱を防ぎます。例えば、member_id という名前のフィールド標準を作成し、関連するテーブルに関連付けることで、すべてのメンバー ID フィールドが一貫して定義されるようにできます。
|
テーブル名 |
元のフィールド |
問題 |
標準化されたフィールド |
|
登録テーブル |
user_id |
命名の不一致 |
member_id |
|
ログインテーブル |
userid |
アンダースコアがなく、あいまいさを生む可能性がある |
ルックアップテーブル
ルックアップテーブルは、フィールドの有効な値の範囲と許可される内容を定義します。例えば、gender フィールドの値を Male、Female、Unknown に制限できます。
測定単位
測定単位は、通貨、オブジェクト数量詞、時間単位など、ビジネスに関連する測定の単位を定義します。例えば、プロダクト数量の測定単位は個です。
命名辞書
命名辞書は、ビジネス用語、物理テーブル、フィールド (語根や形態素を含む) に対する標準化された翻訳を提供します。これは、命名規則に関する企業レベルのライブラリとして機能します。例えば、企業の年間収益の標準用語を Annual Gross Revenue として定義できます。
データ標準の関係
関連付けは、データ標準を論理モデル内の特定のフィールドにリンクします。関連付けられると、そのフィールドは標準のルールに準拠する必要があります。
データ標準ページへのアクセス
-
DataWorks コンソールにログインします。対象リージョンで、左側のナビゲーションウィンドウで をクリックします。ドロップダウンリストからワークスペースを選択し、入力 データモデリング をクリックします。
-
Data Modeling ページで、上部のメニューバーにある Data Standard をクリックして、データ標準ページに移動します。
データ標準:フィールド標準
フィールド標準は、フィールドの名前、データの型、値の範囲を定義します。これを使用して、複数のテーブル間で意味は同じでも名前が異なるフィールドを関連付けることができます。フィールド標準を変更した場合、関連するすべてのテーブルをすばやく見つけて更新できます。
階層
-
フィールド標準を作成する際は、ルートディレクトリ、ディレクトリ、または標準セットの下に配置する必要があります。階層は以下の項目で構成されます:
-
ルートディレクトリ:最上位のディレクトリです。他のすべてのディレクトリ、標準セット、および標準は、ルートディレクトリに配置する必要があります。
-
ディレクトリ:標準と標準セットを格納するためのフォルダで、オペレーティングシステムのフォルダに似ています。
-
標準セット:ディレクトリに似ていますが、標準のみを含めることができます。
-
-
フィールド標準には継承関係を持たせることができます。例えば、購入者 ID 標準と販売者 ID 標準の両方が、メンバー ID 標準を継承できます。
フィールド標準の定義
多数のフィールド標準を入力する必要がある場合は、バッチインポート機能を使用すると、より効率的に作業できます。
-
Data Standard ページの左側のナビゲーションバーで、Field Standard をクリックして Field Standard ページに移動します。
-
左側のディレクトリツリーで、対象のディレクトリまたは標準セットを右クリックし、[標準の作成] を選択します。
必要に応じてディレクトリや標準セットを作成し、フィールド標準を整理できます。
-
Create Standard ダイアログボックスの主要なパラメーターは次のとおりです。
パラメーター
説明
Abbreviation
論理モデル内の関連フィールドの名前。
Display Name
論理モデル内の関連フィールドの表示名。
Length
データの型に関連するパラメーター。
例えば、DECIMAL データ型を選択した場合、長さは DECIMAL(20,4) の 20 に対応します。
Precision
データの型に関連するパラメーター。
例えば、DECIMAL データ型を選択した場合、精度は DECIMAL(20,4) の 4 に対応します。
Not Null
この標準を参照するフィールドが Null 値を許容するかどうかを指定します。デフォルトでは Null 値が許可されます。
Default Value
値が指定されていない場合のフィールドのデフォルト値。値の長さは 2,048 文字を超えることはできません。
Parent Standard
既存の標準を親標準として選択し、継承関係を確立できます。これにより、フィールドの関連付けをより明確に識別できます。
例えば、購入者 ID と 販売者 ID はどちらも メンバー ID の一種です。したがって、購入者 ID 標準と 販売者 ID 標準の両方の親標準は メンバー ID 標準です。
Referenced Lookup Table
既存のルックアップテーブルを参照して、フィールドの値の範囲を制約できます。詳細については、「データ標準:ルックアップテーブル」をご参照ください。
重要フィールド標準を削除する前に、そのすべての参照を削除する必要があります。
フィールド標準の使用
フィールド標準を使用して、論理モデル内の特定のフィールドを定義できます。この機能は、ソーステーブル、ディメンションテーブル、ファクトテーブル、集計テーブル、およびアプリケーションテーブルでサポートされています。例えば、メンバー情報のディメンションテーブル dim_ec_con_member_df では、メンバー ID フィールドをフィールド標準 member_id に関連付けることができます。この場合、フィールド名はフィールド標準の略称から、フィールド表示名はフィールド標準の表示名から継承され、型と空でないプロパティも直接継承されます。詳細については、「ディメンションテーブルのフィールド設定」をご参照ください。
データ標準:ルックアップテーブル
ルックアップテーブルは、フィールドの有効な値の範囲と許可される内容を定義します。
ルックアップテーブルの定義
多数のルックアップテーブルを入力する必要がある場合は、バッチインポート機能を使用すると、より効率的に作業できます。
-
Data Standard ページの左側のナビゲーションウィンドウで、Lookup Table をクリックして Lookup Table ページに移動します。
-
作成したディレクトリ名を右クリックし、Create Lookup Table をクリックします。
必要に応じてディレクトリを作成し、ルックアップテーブルを整理できます。
-
Create Lookup Table ダイアログボックスで、次のパラメーターを設定し、列挙値を追加します。
例えば、ID を gender、表示名を性別、名前を gender に設定します。列挙値は次の表のとおりです。
コード値
コード名
名前
説明
0
不明
unknown
性別未指定
1
男性
male
男性
2
女性
female
女性
重要ルックアップテーブルを削除する前に、そのすべての参照を削除する必要があります。
ルックアップテーブルの公開
ルックアップテーブルの詳細ページで、右上隅の [公開] をクリックして、ルックアップテーブルを物理テーブルまたはマテリアライズドビューとして実体化します。
ルックアップテーブルの使用
ルックアップテーブルを使用して、論理モデル内の特定のフィールドを定義できます。この機能は、ソーステーブル、ディメンションテーブル、およびファクトテーブルでサポートされています。例えば、メンバー情報のディメンションテーブル dim_ec_con_member_df では、gender フィールドをルックアップテーブル gender に関連付けることができます。この場合、フィールド名はルックアップテーブルの ID から、フィールド表示名はルックアップテーブルの表示名から継承されます。詳細については、「ディメンションテーブルのフィールド設定」をご参照ください。
ルックアップテーブルを関連付けることで、複数のテーブルで使用されるフィールドの名前を自動的に統一できます。
|
テーブル名 |
元のフィールド |
元の列挙値 |
標準化されたフィールド |
標準化された列挙値 |
|
メンバー情報テーブル |
sex |
1, 2 |
gender |
0, 1, 2 |
|
メンバーログインテーブル |
gender |
0, 1, 2 |
ルックアップテーブルに基づく標準の適用
論理モデルのファクトテーブルまたはディメンションテーブルが物理テーブルとして公開される際に、ルックアップテーブルに関連付けられた特定のフィールドに対して品質ルールを生成できます。その後、このルールを使用して品質モニタリングタスクを作成し、標準を物理テーブルに適用できます。詳細については、「データラベリング」をご参照ください。
生成される品質ルールの例は次のとおりです:ルール名はフィールドルール-ルックアップテーブル-(gender)、品質ディメンションは整合性、範囲はフィールドレベル(gender)、ルールテンプレートは列挙値と一致しない行数が 0 であるです。モニタリングのしきい値では、!=0 は例外を示し、=0 は正常を示します。重大度は弱ルールです。
データ標準: 測定単位
測定単位は、通貨、オブジェクト数量詞、時間単位など、ビジネスに関連する測定の単位を定義します。
測定単位の定義
多数の測定単位を入力する必要がある場合は、バッチインポート機能を使用すると、より効率的に作業できます。
-
Data Standard ページの左側のナビゲーションバーで、Measurement Unit をクリックして Measurement Unit ページに移動します。
-
Measurement Unit ページで、対象の測定カテゴリを右クリックし、Create Measurement Unit を選択します。
-
表示される Create Measurement Unit ダイアログボックスで、パラメーターを設定してセットアップを完了します。
例えば、略称を m、名前を meter、表示名をメートルに設定します。
測定単位の使用
論理モデルとの関連付け
測定単位を使用して、論理モデル内の特定のフィールドの測定単位を定義できます。この機能は、ファクトテーブル、集計テーブル、およびアプリケーションテーブルでサポートされています。例えば、注文作成のファクトテーブル dwd_trade_order では、プロダクト数フィールドを測定単位個に関連付けることができます。詳細については、「ファクトテーブルのフィールド設定」をご参照ください。
アトミックメトリクスとの関連付け
アトミックメトリクス値を定義する際に、アトミックメトリクスの統計データの型に基づいて適切な測定単位を選択できます。
利用可能な測定単位は、通貨単位とオブジェクト数量詞に分類されます。オブジェクト数量詞カテゴリには、世帯、家族、人日などのオプションが含まれます。また、計算関数、小数点以下の桁数、Distinct の有効化などの他のパラメーターも設定できます。
データ標準:命名辞書
命名辞書は、ビジネス用語、物理テーブル、フィールド (語根や形態素を含む) に対する標準化された翻訳を提供します。これは、命名規則に関する企業レベルのライブラリとして機能します。
命名辞書の定義
多数の命名辞書エントリを入力する必要がある場合は、バッチインポート機能を使用すると、より効率的に作業できます。
-
Data Standard ページの左側のナビゲーションバーで、Naming Dictionary をクリックして Naming Dictionary ページに移動します。
-
Create をクリックします。[命名辞書の作成] ダイアログボックスで、パラメーターを設定し、OK をクリックします。
例えば、表示名をエンジン、名前を engine、略称を eng. に設定します。
命名辞書の使用
命名辞書を使用して、テーブル名がデータウェアハウスレイヤーの命名規則に準拠しているかどうかを確認できます。この機能は、ソーステーブル、ディメンションテーブル、ファクトテーブル、集計テーブル、およびアプリケーションテーブルでサポートされています。例えば、略称が trade の命名辞書エントリが存在しない場合、テーブル名 dwd_trade_order はファクトデータテーブルの DWD レイヤーの命名規則に準拠していません。
[チェッカー管理] ページで、[ルールの追加] をクリックします。ルールタイプとして [テーブル名] を選択します。その後、固定テキスト dwd と、[語根の略称] および [ビジネスプロセスの略称] ドロップダウンからの選択を使用して、命名規則に一致するルールを定義できます。
この機能を使用するには、データウェアハウスレイヤーチェッカーで設定します。詳細については、「データウェアハウスレイヤーチェッカーの設定」および「チェッカーの使用」をご参照ください。
その他の操作
標準のバッチインポート
作成するデータ標準が多数ある場合は、バッチでインポートできます。DataWorks は、ダウンロードして入力できるインポートテンプレートを提供しており、バッチインポートに使用できます。
-
Data Standard ページの左側のナビゲーションバーで、Naming Dictionary をクリックして Naming Dictionary ページに移動します。
フィールド標準とルックアップテーブルの詳細ページにも、[インポート] と [エクスポート] ボタンがあります。
-
Import をクリックし、[インポート] ページで Import Type を選択します。
-
[テンプレートプレビュー] セクションで、[テンプレートのダウンロード] をクリックし、必須フィールドに入力します。
-
Next Step をクリックします。Data Import タブで、データファイルをアップロードしてプレビューします。
説明-
Import Mode:インポートするファイルと同じ名前のオブジェクトが DataWorks に既に存在する場合、オブジェクトをスキップするか、インポートするファイルの内容で上書きするかを選択できます。
-
バッチインポートでサポートされているファイル形式は
.xlsxのみです。一度に最大 30,000 レコードをインポートできます。ファイルサイズは10 MBを超えることはできません。
-
-
Complete タブで、インポート結果の詳細を確認できます。詳細リストの View More Details をクリックすると編集ページに移動し、追加の操作を実行できます。インポートステータスが [失敗] の場合は、エラー詳細に基づいてエラーを解決し、データを再インポートする必要があります。
標準のバッチエクスポート
ワークスペース間でデータ標準を再利用する必要がある場合は、エクスポート機能を使用してデータ標準をバッチでエクスポートできます。フィールド標準、ルックアップテーブル、または命名辞書の詳細ページでエクスポートボタンをクリックできます。