KingbaseES 入力コンポーネントは、KingbaseES データソースからデータを読み取ります。 KingbaseES データソースから他のデータソースにデータを同期する必要がある場合は、まず KingbaseES 入力コンポーネントを構成してデータソースを読み取り、次にデータ同期のターゲットデータソースを構成する必要があります。 このトピックでは、KingbaseES 入力コンポーネントを構成する方法について説明します。
前提条件
KingbaseES データソースを作成済みであること。 詳細については、「KingbaseES データソースを作成する」をご参照ください。
KingbaseES 入力コンポーネントのプロパティを構成するために使用するアカウントが、データソースに対するリードスルー権限を持っていること。 権限がない場合は、データソース権限をリクエストする必要があります。 詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。
手順
Dataphin ホームページの上部ナビゲーションバーで、[開発] > [Data Integration] を選択します。
統合ページの上部ナビゲーションバーで、プロジェクト を選択します(開発 - 本番環境モードでは、環境を選択する必要があります)。
左側のナビゲーションウィンドウで、[バッチパイプライン] をクリックします。 [バッチパイプライン]オフライン パイプライン リストで、開発するオフラインパイプラインをクリックして、構成ページを開きます。
ページの右上隅にある [コンポーネントライブラリ] をクリックして、[コンポーネントライブラリ] パネルを開きます。
[コンポーネントライブラリ] パネルの左側のナビゲーションウィンドウで、[入力] を選択します。 右側の入力コンポーネントリストで [KingbaseES] コンポーネントを見つけ、キャンバスにドラッグします。
KingbaseES 入力コンポーネントカードの
アイコンをクリックして、[KingbaseES] [入力構成] ダイアログボックスを開きます。
[KingbaseES 入力構成] ダイアログボックスで、パラメーターを構成します。
パラメーター
説明
[ステップ名]
KingbaseES 入力コンポーネントの名前。 Dataphin は自動的にステップ名を生成します。これは、ビジネスシナリオに基づいて変更できます。 名前は次の要件を満たしている必要があります。
漢字、英字、アンダースコア(_)、数字のみ使用できます。
64 文字を超えることはできません。
[データソース]
データソースドロップダウンリストには、現在の Dataphin インスタンスのすべての KingbaseES データソースが表示されます。これには、リードスルー権限を持っているデータソースと持っていないデータソースが含まれます。
アイコンをクリックして、現在のデータソース名をコピーします。
リードスルー権限を持っていないデータソースの場合、対応するデータソースの読み取り権限をリクエストできます。 データソースの読み取り権限をリクエストする方法の詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。
KingbaseES データソースがない場合は、[データソースの作成] をクリックして作成します。 詳細については、「KingbaseES データソースを作成する」をご参照ください。
[ソーステーブル数]
ソーステーブルの数を選択します。ソーステーブル数には、[単一テーブル] と [複数テーブル] があります。
単一テーブル:このオプションは、1 つのテーブルのビジネスデータを 1 つのターゲットテーブルに同期する場合に適用されます。
複数テーブル:このオプションは、複数テーブルのビジネスデータを同じターゲットテーブルに同期する場合に適用されます。 複数テーブルのデータを同じデータテーブルに書き込む場合は、ユニオンアルゴリズムが使用されます。
[テーブル]
ソーステーブルを選択します。
ソーステーブル数量 に 単一テーブル を選択した場合は、キーワードを入力してテーブルを検索するか、正確なテーブル名を入力して [完全一致] をクリックします。 テーブルを選択すると、システムは自動的にテーブルステータスをチェックします。
アイコンをクリックして、選択したテーブルの名前をコピーします。
ソーステーブル数量 に 複数テーブル を選択した場合は、次の操作を実行してテーブルを追加します。
入力ボックスにテーブル式を入力して、同じ構造のテーブル をフィルタリングします。
システムは、列挙、正規表現のようなパターン、および両方の組み合わせをサポートしています。 たとえば、
table_[001-100];table_102
。[完全一致] をクリックします。 [一致の詳細の確認] ダイアログボックスで、一致したテーブルのリストを表示します。
[OK] をクリックします。
シャードキー (オプション)
システムは、構成されたシャードキーフィールドに基づいてデータをシャーディングします。 このパラメーターは、同時実行構成と組み合わせて使用して、同時読み取りを実装できます。 ソースデータテーブルの列をシャードキーとして使用できます。 伝送パフォーマンスを確保するために、プライマリキーまたはインデックス付きの列をシャードキーとして使用することをお勧めします。
重要日付と時刻のタイプを選択すると、システムは最大値と最小値を識別し、合計時間範囲と同時実行性に基づいて強制シャーディングを実行します。 均等な分散は保証されません。
バッチ読み取り数 (オプション)
一度に読み取るデータレコードの数。 ソースデータベースからデータを読み取るときに、レコードを 1 つずつ読み取る代わりに、特定のバッチ読み取り数 (1,024 レコードなど) を構成できます。 これにより、データソースとの対話の回数が減り、I/O 効率が向上し、ネットワークレイテンシが減少します。
入力フィルター (オプション)
入力フィールドのフィルター情報を入力します。たとえば、
ds=${bizdate}
。 入力フィルター は、次の 2 つのシナリオに適用できます。データの固定部分。
パラメーターフィルタリング。
[出力フィールド]
出力フィールドセクションには、フィルター条件に一致する選択済みテーブルのすべてのフィールドが表示されます。 次の操作を実行できます。
フィールド管理:特定のフィールドをダウンストリームコンポーネントに出力する必要がない場合は、これらのフィールドを削除できます。
単一フィールドの削除:少数のフィールドを削除する必要がある場合は、操作列の
アイコンをクリックして、不要なフィールドを削除できます。
複数フィールドのバッチ削除:多数のフィールドを削除する必要がある場合は、[フィールド管理] をクリックします。 [フィールド管理] ダイアログボックスで、複数のフィールドを選択し、
左矢印アイコンをクリックして、選択した入力フィールドを未選択の入力フィールドに移動してから、[OK] をクリックして、フィールドのバッチ削除を完了します。
一括追加:[一括追加] をクリックして、JSON 形式、TEXT 形式、または DDL 形式でフィールドを一括構成します。
説明一括追加を完了して [OK] をクリックすると、構成済みのフィールド情報が 上書きされます。
JSON 形式でフィールドを一括構成します。次に例を示します。
// 例: [{ "index": 1, "name": "id", "type": "int(10)", "mapType": "Long", "comment": "comment1" }, { "index": 2, "name": "user_name", "type": "varchar(255)", "mapType": "String", "comment": "comment2" }]
説明index は指定されたオブジェクトの列番号を示し、name はインポート後のフィールド名を示し、type はインポート後のフィールドタイプを示します。 たとえば、
"index":3,"name":"user_id","type":"String"
は、ファイルの 4 番目の列がフィールド名 user_id とフィールドタイプ String でインポートされることを示します。TEXT 形式でフィールドを一括構成します。次に例を示します。
// 例: 1,id,int(10),Long,comment1 2,user_name,varchar(255),Long,comment2
行区切り文字は、各フィールドの情報を区切るために使用されます。 デフォルトは改行(\n)です。 改行(\n)、セミコロン(;)、ピリオド(。)がサポートされています。
列区切り文字は、フィールド名とフィールドタイプを区切るために使用されます。デフォルトはカンマ (,) です。システムは
','
をサポートしています。フィールドタイプは省略できます。デフォルトは','
です。
DDL 形式でフィールドを一括構成します。次に例を示します。
CREATE TABLE tablename ( user_id serial, username VARCHAR(50), password VARCHAR(50), email VARCHAR (255), created_on TIMESTAMP, );
出力フィールドの作成: [+ 出力フィールドの作成] をクリックし、[列]、[タイプ]、[備考] に入力し、プロンプトに従って [マッピングタイプ] を選択します。 現在の行の構成が完了したら、
アイコンをクリックして保存します。
[KingbaseES 入力コンポーネント] のプロパティ構成を完了するには、[OK] をクリックします。