すべてのプロダクト
Search

このプロダクト

    Dataphin:GoldenDB 入力コンポーネントの構成

    ドキュメントセンター

    Dataphin:GoldenDB 入力コンポーネントの構成

    最終更新日:May 29, 2025

    GoldenDB 入力コンポーネントは、GoldenDB データソースからデータを読み取ります。 GoldenDB データソースから他のデータソースにデータを同期する必要がある場合は、まず GoldenDB 入力コンポーネントを構成してデータソースを読み取り、次にデータ同期のターゲットデータソースを構成する必要があります。 このトピックでは、GoldenDB 入力コンポーネントを構成する方法について説明します。

    前提条件

    • GoldenDB データソースが作成されていること。 詳細については、「GoldenDB データソースを作成する」をご参照ください。

    • GoldenDB 入力コンポーネントのプロパティを構成するために使用するアカウントは、データソースに対するリードスルー権限を持っている必要があります。 権限がない場合は、データソース権限をリクエストする必要があります。 詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。

    手順

    1. Dataphin ホームページの上部ナビゲーションバーで、[開発] > [Data Integration] を選択します。

    2. 統合ページの上部ナビゲーションバーで、プロジェクトを選択します（開発-本番モードでは、環境を選択する必要があります）。

    3. 左側のナビゲーションウィンドウで、[バッチパイプライン] をクリックします。 [バッチパイプライン] リストで、開発するオフラインパイプラインをクリックして、構成ページを開きます。

    4. ページの右上隅にある [コンポーネントライブラリ] をクリックして、[コンポーネントライブラリ] パネルを開きます。

    5. [コンポーネントライブラリ] パネルの左側のナビゲーションウィンドウで、[入力] を選択します。 右側の入力コンポーネントリストで [GoldenDB] コンポーネントを見つけ、キャンバスにドラッグします。

    6. GoldenDB 入力コンポーネントカードの image アイコンをクリックして、GoldenDB [入力構成] ダイアログボックスを開きます。

    7. [GoldenDB 入力構成] ダイアログボックスで、パラメーターを構成します。

      パラメーター

      説明

      ステップ名

      GoldenDB 入力コンポーネントの名前。 Dataphin は自動的にステップ名を生成します。これは、ビジネスシナリオに基づいて変更できます。 名前は次の要件を満たしている必要があります。

      • 漢字、英字、アンダースコア（_）、数字のみ使用できます。

      • 長さは 64 文字を超えることはできません。

      データソース

      データソースドロップダウンリストには、現在の Dataphin インスタンスにあるすべての GoldenDB データソースが表示されます。これには、リードスルー権限を持っているものと持っていないものが含まれます。 image アイコンをクリックして、現在のデータソース名をコピーします。

      • リードスルー権限のないデータソースの場合、データソースの横にある [リクエスト] をクリックして、リードスルー権限をリクエストできます。 詳細については、「データソース権限をリクエストする」をご参照ください。

      • GoldenDB データソースがない場合は、[データソースの作成] をクリックして作成します。 詳細については、「GoldenDB データソースを作成する」をご参照ください。

      ソーステーブル数

      ソーステーブル数を選択します。 ソーステーブル数には、単一テーブル複数のテーブル と が含まれます。

      • 単一テーブル：このオプションは、1 つのテーブルのビジネスデータを 1 つのターゲットテーブルに同期する場合に適用されます。

      • 複数テーブル：このオプションは、複数のテーブルのビジネスデータを同じターゲットテーブルに同期する場合に適用されます。 複数のテーブルのデータが同じデータテーブルに書き込まれる場合、ユニオンアルゴリズムが使用されます。

      テーブル

      ソーステーブルを選択します。

      • ソーステーブル数量に単一テーブルを選択した場合、キーワードを入力してテーブルを検索するか、正確なテーブル名を入力して [完全一致] をクリックします。 テーブルを選択すると、システムは自動的にテーブルステータスをチェックします。 image アイコンをクリックして、選択したテーブルの名前をコピーします。

      • ソーステーブル数量に複数テーブルを選択した場合は、次の操作を実行してテーブルを追加します。

        1. 入力ボックスにテーブル式を入力して、同じ構造のテーブルをフィルタリングします。

          システムは、列挙、正規表現、および両方の組み合わせをサポートしています。 たとえば、table_[001-100];table_102。

        2. [完全一致] をクリックします。 [一致の詳細の確認] ダイアログボックスで、一致したテーブルのリストを表示します。

        3. [OK] をクリックします。

      シャードキー（オプション）

      システムは、構成されたシャードキーフィールドに基づいてデータをシャーディングします。 このパラメーターは、同時実行構成と組み合わせて使用​​して、同時読み取りを実装できます。 ソースデータテーブルの列をシャードキーとして使用できます。 伝送パフォーマンスを確保するために、プライマリキーまたはインデックス付きの列をシャードキーとして使用することをお勧めします。

      重要

      日付と時刻のタイプを選択すると、システムは最大値と最小値を識別し、合計時間範囲と同時実行性に基づいて強制シャーディングを実行します。 均等な分散は保証されません。

      バッチ読み取りカウント（オプション）

      一度に読み取るデータレコードの数。 ソースデータベースからデータを読み取るときに、レコードを 1 つずつ読み取る代わりに、特定のバッチ読み取りカウント（1,024 レコードなど）を構成できます。 これにより、データソースとの対話の回数が減り、I/O 効率が向上し、ネットワークレイテンシが減少します。

      入力フィルター（オプション）

      データ抽出のフィルタリング条件を構成します。 構成手順は次のとおりです。

      • 静的フィールドを構成する：対応するデータを抽出します。たとえば、ds=20210101。

      • 変数パラメーターを構成する：データの一部を抽出します。たとえば、ds=${bizdate}。

      出力フィールド

      出力フィールドセクションには、フィルタリング条件に一致する選択したテーブルのすべてのフィールドが表示されます。 次の操作を実行できます。

      • フィールド管理：特定のフィールドをダウンストリームコンポーネントに出力する必要がない場合は、これらのフィールドを削除できます。

        • 単一フィールドの削除：少数のフィールドを削除する必要がある場合は、操作列の sgaga アイコンをクリックして、不要なフィールドを削除できます。

        • フィールドの一括削除：多数のフィールドを削除する必要がある場合は、[フィールド管理] をクリックします。 [フィールド管理] ダイアログボックスで、複数のフィールドを選択し、image 左矢印アイコンをクリックして、選択した入力フィールドを未選択の入力フィールドに移動します。 次に、[OK] をクリックして、フィールドの一括削除を完了します。

          image..png

      • 一括追加：[一括追加] をクリックして、JSON、TEXT、または DDL 形式でフィールドを一括構成します。

        説明

        一括追加を完了して [OK] をクリックすると、構成済みのフィールド情報が 上書きされます。

        • JSON 形式でフィールドを一括構成します。次に例を示します。

          // 例：
  [{
     "index": 1,
     "name": "id",
     "type": "int(10)",
     "mapType": "Long",
     "comment": "comment1"
   },
   {
     "index": 2,
     "name": "user_name",
     "type": "varchar(255)",
     "mapType": "String",
     "comment": "comment2"
 }]
          説明

          index は指定されたオブジェクトの列番号を示し、name はインポート後のフィールド名を示し、type はインポート後のフィールドタイプを示します。 たとえば、"index":3,"name":"user_id","type":"String" は、ファイルの 4 番目の列がフィールド名 user_id とフィールドタイプ String でインポートされることを示します。

        • TEXT 形式でフィールドを一括構成します。次に例を示します。

          // 例：
1,id,int(10),Long,comment1
2,user_name,varchar(255),Long,comment2

          • 行区切り文字は、各フィールドの情報を区切るために使用されます。 デフォルトは改行（\n）です。 改行（\n）、セミコロン（;）、およびピリオド（.）がサポートされています。

          • 列区切り文字は、フィールド名とフィールドタイプを区切るために使用されます。デフォルトはカンマ（ , ）です。システムは','をサポートしています。フィールドタイプは省略できます。デフォルトは','です。

        • DDL 形式でフィールドを一括構成します。次に例を示します。

          CREATE TABLE tablename (
	user_id serial,
	username VARCHAR(50),
	password VARCHAR(50),
	email VARCHAR (255),
	created_on TIMESTAMP,
);

      • 出力フィールドの作成： [+ 出力フィールドの作成] をクリックします。 ページのプロンプトに従って、[列]、[タイプ]、[説明] を入力し、[マッピングタイプ] を選択します。 現在の行の構成が完了したら、image アイコンをクリックして保存します。

    8. 前提条件[OK] をクリックして、GoldenDB 入力コンポーネントのプロパティ構成を完了します。