Log Service 入力コンポーネントは、Log Service データソースからデータを読み取ります。Log Service から他のデータソースにデータを同期する必要がある場合は、まず Log Service 入力コンポーネントを構成してデータソースを読み取り、次にデータ同期のターゲットデータソースを構成する必要があります。このトピックでは、Log Service 入力コンポーネントを構成する方法について説明します。
前提条件
Log Service データソースが作成されていること。詳細については、「Log Service データソースの作成」をご参照ください。
Log Service 入力コンポーネントのプロパティを構成するために使用するアカウントは、データソースに対するリードスルー権限を持っている必要があります。権限がない場合は、データソース権限をリクエストする必要があります。詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。
手順
Dataphin ホームページの上部ナビゲーションバーで、[開発] > [Data Integration] を選択します。
統合ページの上部ナビゲーションバーで、プロジェクトを選択します(開発 - 本番モードでは、環境を選択する必要があります)。
左側のナビゲーションウィンドウで、[バッチパイプライン] をクリックします。[バッチパイプライン] リストで、開発するオフラインパイプラインをクリックして、構成ページを開きます。
ページの右上隅にある [コンポーネントライブラリ] をクリックして、[コンポーネントライブラリ] パネルを開きます。
[コンポーネントライブラリ] パネルの左側のナビゲーションウィンドウで、[入力] を選択します。右側の入力コンポーネントリストで [Log Service] コンポーネントを見つけ、キャンバスにドラッグします。
Log Service 入力コンポーネントカードの
アイコンをクリックして、[Log Service] [入力構成] ダイアログボックスを開きます。[Log Service 入力構成] ダイアログボックスで、パラメーターを構成します。
パラメーター
説明
ステップ名
Log Service 入力コンポーネントの名前。Dataphin は自動的にステップ名を生成しますが、ビジネスシナリオに基づいて変更できます。名前は次の要件を満たしている必要があります。
漢字、英字、アンダースコア (_)、および数字のみを含めることができます。
長さは 64 文字を超えることはできません。
データソース
データソースのドロップダウンリストには、リードスルー権限を持っているデータソースと持っていないデータソースを含め、すべての Log Service データソースが表示されます。
アイコンをクリックして、現在のデータソース名をコピーします。リードスルー権限を持っていないデータソースの場合、データソースの横にある [リクエスト] をクリックして、リードスルー権限をリクエストできます。詳細については、「データソース権限のリクエスト、更新、および返却」をご参照ください。
Log Service データソースがない場合は、[作成] をクリックして作成します。詳細については、「Log Service データソースの作成」をご参照ください。
テーブル
キーワードを入力してテーブルを検索するか、正確なテーブル名を入力して [完全一致] をクリックします。
アイコンをクリックして、選択したテーブルの名前をコピーします。
アイコンをクリックして、選択したテーブルの名前をコピーします。ログ開始時刻
ログの読み取り開始時刻を入力します。 時間の形式は
yyyyMMddHHmmssです。ログ終了時刻
ログの読み取り終了時刻を入力します。 時間の形式は
yyyyMMddHHmmssです。バッチ読み取りカウント
一度に読み取るレコード数。ソースデータベースからデータを読み取るときに、レコードを 1 つずつ読み取る代わりに、特定のバッチ読み取りカウント (1,024 レコードなど) を構成できます。これにより、データソースとの対話回数が減り、I/O 効率が向上し、ネットワークレイテンシが減少します。
出力フィールド
出力フィールドを表示します。
フィールドの一括追加。
[一括追加] をクリックします。
JSON 形式で構成します。次のサンプルコードは例を示しています。
// 例: [{ "index": 0, "name": "user_id", "type": "String" }, { "index": 1, "name": "user_name", "type": "String" }]説明index は指定されたオブジェクトの列番号、name はインポート後のフィールド名、type はインポート後のフィールドタイプを示します。たとえば、
"index":3,"name":"user_id","type":"String"は、ファイルの 4 番目の列がインポートされ、フィールド名がuser_idで、フィールドタイプがStringであることを示します。TEXT 形式で構成します。次のサンプルコードは例を示しています。
// 例: 0,user_id,String 1,user_name,String行区切り文字は、各フィールドの情報を区切るために使用されます。デフォルトは改行 (\n) です。改行 (\n)、セミコロン (;)、およびピリオド (.) がサポートされています。
列区切り文字は、フィールド名とフィールドタイプを区切るために使用されます。 デフォルトはカンマ(,)です。
[OK] をクリックします。
出力フィールドの作成
[出力フィールドの作成] をクリックし、[ソースインデックス] と [列] を入力し、フィールドの [タイプ] を選択します。空白領域をクリックして、フィールドの作成を完了します。
出力フィールドの管理
追加されたフィールドに対して次の操作を実行できます。
アイコンを [位置] の横にクリック アンド ドラッグして、フィールドの位置を変更します。列の操作
アイコンをクリックして、既存のフィールドを編集します。列の操作
アイコンをクリックして、既存のフィールドを削除します。
[OK] をクリックして、[Log Service] 入力コンポーネントのプロパティ構成を完了します。