すべてのプロダクト
Search

このプロダクト

    Dataphin:DM (DAMENG) 入力コンポーネントを構成する

    ドキュメントセンター

    Dataphin:DM (DAMENG) 入力コンポーネントを構成する

    最終更新日:May 29, 2025

    DM (DaMeng) 入力コンポーネントを構成すると、データ統合とデータ開発のために DM (DaMeng) データソースから Dataphin にデータを読み取ることができます。このトピックでは、DM (DaMeng) 入力コンポーネントを構成する方法について説明します。

    前提条件

    • DaMeng データソースが作成されていること。詳細については、「DaMeng (DM) データソースを作成する」をご参照ください。

    • DaMeng 入力コンポーネントのプロパティを構成するために使用するアカウントは、データソースに対するリードスルー権限を持っている必要があります。権限がない場合は、データソース権限をリクエストする必要があります。詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。

    手順

    1. Dataphin ホームページの上部ナビゲーションバーで、[開発] > [Data Integration] を選択します。

    2. 統合ページの上部ナビゲーションバーで、プロジェクトを選択します（開発-本番モードでは、環境を選択する必要があります）。

    3. 左側のナビゲーションウィンドウで、[バッチパイプライン] をクリックします。[バッチパイプライン] リストで、開発するオフラインパイプラインをクリックして、構成ページを開きます。

    4. ページの右上隅にある [コンポーネントライブラリ] をクリックして、[コンポーネントライブラリ] パネルを開きます。

    5. [コンポーネントライブラリ] パネルの左側のナビゲーションウィンドウで、[入力] を選択します。右側の入力コンポーネントリストで [DM] コンポーネントを見つけ、キャンバスにドラッグします。

    6. DM 入力コンポーネントカードの image アイコンをクリックして、[DaMeng] [入力構成] ダイアログボックスを開きます。

    7. [DaMeng 入力構成] ダイアログボックスで、パラメーターを構成します。

      パラメーター

      説明

      ステップ名

      DaMeng 入力コンポーネントの名前。Dataphin は自動的にステップ名を生成しますが、ビジネスシナリオに基づいて変更できます。名前は次の要件を満たしている必要があります。

      • 中国語、英字、アンダースコア (_)、数字のみ使用できます。

      • 長さは 64 文字を超えることはできません。

      データソース

      データソースドロップダウンリストには、現在の Dataphin 内のすべての DM タイプのデータソースが表示されます。これには、リードスルー権限を持っているデータソースと持っていないデータソースが含まれます。image アイコンをクリックして、現在のデータソース名をコピーします。

      ソーステーブル数量

      実際のシナリオ要件に基づいて、単一のテーブルまたは同じ構造を持つ複数のテーブルを入力として選択します。ソーステーブル数量には、[単一テーブル] と [複数テーブル] が含まれます。

      • [単一テーブル]: 1 つのテーブルのビジネスデータを 1 つのターゲットテーブルに同期する場合に適用されます。

      • [複数テーブル]: 複数のテーブルのビジネスデータを同じターゲットテーブルに同期する場合に適用されます。複数のテーブルのデータが同じデータテーブルに書き込まれる場合、ユニオンアルゴリズムが使用されます。

      テーブル

      ソーステーブルを選択します。

      • ソーステーブル数量 に [単一テーブル] を選択した場合、テーブル名キーワードを入力して検索するか、正確なテーブル名を入力して [完全一致] をクリックします。テーブルを選択すると、システムは自動的にテーブルステータスをチェックします。image アイコンをクリックして、現在選択されているテーブルの名前をコピーします。

      • ソーステーブル数量 に [複数テーブル] を選択した場合は、次の操作を実行してテーブルを追加します。

        1. 入力ボックスにテーブル式を入力して、同じ構造のテーブルをフィルタリングします。

          システムは、列挙形式、正規表現のような形式、および両方の混合をサポートしています。たとえば、table_[001-100];table_102。

        2. [完全一致] をクリックします。[一致の詳細の確認] ダイアログボックスで、一致したテーブルのリストを表示します。

        3. [OK] をクリックします。

      シャードキー (オプション)

      システムは、構成されたシャードキーフィールドに基づいてデータをシャーディングします。これは、同時実行構成と組み合わせて使用して、同時読み取りを実装できます。ソースデータテーブルの列をシャードキーとして使用できます。転送パフォーマンスを確保するために、プライマリキーまたはインデックス付きの列をシャードキーとして使用することをお勧めします。

      重要

      日付時刻タイプを選択すると、システムは最大値と最小値を識別し、合計時間範囲と同時実行性に基づいて強制シャーディングを実行します。均等な分散は保証されません。

      バッチ読み取り数 (オプション)

      一度に読み取るレコードの数。ソースデータベースからデータを読み取るときに、レコードを 1 つずつ読み取る代わりに、特定のバッチ読み取り数 (例: 1,024 レコード) を構成できます。これにより、データソースとの対話の回数が減り、I/O 効率が向上し、ネットワークレイテンシが減少します。

      入力フィルター (オプション)

      入力フィールドのフィルター情報を入力します。例: ds=${bizdate}。[入力フィルター] は、次の 2 つのシナリオに適用できます。

      • データの固定部分。

      • パラメーターフィルタリング。

      出力フィールド

      出力フィールドセクションには、選択したテーブルのすべてのフィールドと、フィルター条件に一致するフィールドが表示されます。次の操作を実行できます。

      • フィールド管理: 特定のフィールドをダウンストリームコンポーネントに出力する必要がない場合は、これらのフィールドを削除できます。

        • 単一フィールド削除シナリオ: 少量のフィールドを削除する必要がある場合は、操作列の sgaga アイコンをクリックして、不要なフィールドを削除できます。

        • バッチフィールド削除シナリオ: 多くのフィールドを削除する必要がある場合は、[フィールド管理] をクリックします。[フィールド管理] ダイアログボックスで、複数のフィールドを選択し、image 左移動アイコンをクリックして、選択した入力フィールドを未選択の入力フィールドに移動し、[OK] をクリックして、フィールドのバッチ削除を完了します。

          image..png

      • 一括追加: [一括追加] をクリックすると、JSON、TEXT 形式、および DDL 形式でのバッチ構成がサポートされます。

        説明

        バッチ追加を完了して [OK] をクリックすると、構成済みのフィールド情報が 上書き されます。

        • JSON 形式でのバッチ構成。例:

          // 例:
  [{
     "index": 1,
     "name": "id",
     "type": "int(10)",
     "mapType": "Long",
     "comment": "comment1"
   },
   {
     "index": 2,
     "name": "user_name",
     "type": "varchar(255)",
     "mapType": "String",
     "comment": "comment2"
 }]
          説明

          index は指定されたオブジェクトの列番号を示し、name はインポート後のフィールド名を示し、type はインポート後のフィールドタイプを示します。 たとえば、"index":3,"name":"user_id","type":"String" は、ファイルから 4 番目の列をインポートすることを示し、フィールド名は user_id、フィールドタイプは String です。

        • TEXT 形式でのバッチ構成。例:

          // 例:
1,id,int(10),Long,comment1
2,user_name,varchar(255),Long,comment2

          • 行区切り文字は、各フィールドの情報を区切るために使用されます。デフォルトは改行 (\n) です。改行 (\n)、セミコロン (;)、ピリオド (.) をサポートしています。

          • 列区切り文字は、フィールド名とフィールドタイプを区切るために使用されます。デフォルトはカンマ (,) です。 ',' をサポートしています。フィールドタイプは省略でき、デフォルトは ','','

        • DDL 形式でのバッチ構成。例:

          CREATE TABLE tablename (
	user_id serial,
	username VARCHAR(50),
	password VARCHAR(50),
	email VARCHAR (255),
	created_on TIMESTAMP,
);

      • 新しい出力フィールドの作成: [+ 新しい出力フィールドの作成] をクリックし、[列]、[タイプ]、[備考] を入力し、プロンプトに従って [マッピングタイプ] を選択します。現在の行の構成が完了したら、image アイコンをクリックして保存します。

    8. [OK] をクリックして、DM (DaMeng) 入力コンポーネントのプロパティ構成を完了します。