DataWorks:LogHub (SLS)

データソースの構成

データ同期タスクを開発する前に、DataWorks でデータソースを作成する必要があります。詳細については、「データソースの管理」をご参照ください。各パラメーターの詳細な説明については、構成ページのツールチップをご確認ください。

単一テーブルオフライン同期タスクの構成

• 詳細については、「コードレス UI によるバッチ同期の構成」および「コードエディタの使用」をご参照ください。

  説明

  コードレス UI で同期タスクを構成する場合、パラメーターの形式が「付録 1：スクリプト例およびパラメーター説明」で説明されている形式と一致していることを確認してください。

• コードエディタ向けの全パラメーターおよびスクリプト例については、「付録 1：スクリプト例およびパラメーター説明」をご参照ください。

単一テーブルリアルタイム同期タスクの構成

詳細については、「単一テーブルリアルタイム同期タスクの構成」をご参照ください。

全体データベースリアルタイム同期タスクの構成

詳細については、「全体データベースリアルタイム同期タスクの構成」をご参照ください。

コードエディタを使用したバッチ同期タスクの構成

コードエディタを使用してバッチ同期タスクを構成する場合、統一スクリプト形式の要件に基づいて、関連するパラメーターをスクリプトで構成する必要があります。詳細については、「コードエディタの使用」をご参照ください。以下に、コードエディタを使用してバッチ同期タスクを構成する際に、データソースに対して設定する必要があるパラメーターについて説明します。

Reader スクリプト例

{
 "type":"job",
 "version":"2.0",// バージョン番号。
 "steps":[
     {
         "stepType":"LogHub",// プラグイン名。
         "parameter":{
             "datasource":"",// データソース。
             "column":[// フィールド。
                 "col0",
                 "col1",
                 "col2",
                 "col3",
                 "col4",
                 "C_Category",
                 "C_Source",
                 "C_Topic",
                 "C_MachineUUID", // トピック。
                 "C_HostName", // ホスト名。
                 "C_Path", // パス。
                 "C_LogTime" // イベント時刻。
             ],
             "beginDateTime":"",// データ消費の開始時刻。
             "batchSize":"",// Simple Log Service から一度にクエリするデータ件数。
             "endDateTime":"",// データ消費の終了時刻。
             "fieldDelimiter":",",// カラム区切り文字。
             "logstore":""// 送信先 Logstore の名前。
         },
         "name":"Reader",
         "category":"reader"
     },
     { 
         "stepType":"stream",
         "parameter":{},
         "name":"Writer",
         "category":"writer"
     }
 ],
 "setting":{
     "errorLimit":{
         "record":"0"// エラー件数。
     },
     "speed":{
         "throttle":true,// throttle が false の場合、mbps パラメーターは無効となり、データ転送速度は制限されません。throttle が true の場合、データ転送速度が制限されます。
            "concurrent":1, // 同時実行ジョブ数。
            "mbps":"12"// 最大データ転送速度。1 mbps = 1 MB/s。
     }
 },
 "order":{
     "hops":[
         {
             "from":"Reader",
             "to":"Writer"
         }
     ]
 }
}

Reader スクリプトパラメーター

Writer スクリプト例

{
    "type": "job",
    "version": "2.0",// バージョン番号。
    "steps": [
        { 
            "stepType": "stream",
            "parameter": {},
            "name": "Reader",
            "category": "reader"
        },
        {
            "stepType": "LogHub",// プラグイン名。
            "parameter": {
                "datasource": "",// データソース。
                "column": [// フィールド。
                    "col0",
                    "col1",
                    "col2",
                    "col3",
                    "col4",
                    "col5"
                ],
                "topic": "",// トピックを選択します。
                "batchSize": "1024",// 一括送信するレコード数。
                "logstore": ""// 送信先 Simple Log Service Logstore の名前。
            },
            "name": "Writer",
            "category": "writer"
        }
    ],
    "setting": {
        "errorLimit": {
            "record": ""// エラー件数。
        },
        "speed": {
            "throttle":true,// throttle が false の場合、mbps パラメーターは無効となり、データ転送速度は制限されません。throttle が true の場合、データ転送速度が制限されます。
            "concurrent":3, // 同時実行ジョブ数。
            "mbps":"12"// 最大データ転送速度。1 mbps = 1 MB/s。
        }
    },
    "order": {
        "hops": [
            {
                "from": "Reader",
                "to": "Writer"
            }
        ]
    }
}

Writer スクリプトパラメーター