Simple Log Service を使用すると、ソース Logstore からデータを読み取り、変換し、結果を 1 つ以上の送信先 Logstore に書き込むデータ変換ジョブを作成できます。変換後のデータに対してクエリと分析を実行し、さらに深いインサイトを得ることも可能です。本トピックでは、Simple Log Service コンソールでデータ変換ジョブを作成する方法について説明します。
前提条件
-
Simple Log Service にデータが収集されていること。詳細については、「データ収集」をご参照ください。
-
Resource Access Management (RAM) ユーザーを使用する場合は、そのユーザーにデータ変換ジョブを管理する権限を付与すること。詳細については、「RAM ユーザーにデータ変換ジョブを管理する権限を付与する」をご参照ください。
操作手順
Simple Log Service コンソール にログインします。
-
データ変換ページに移動します。
[Projects] セクションで、目的のプロジェクトをクリックします。
タブで、目的の Logstore をクリックします。
-
クエリと分析ページで、[Data Transformation] をクリックします。
-
ページ右上隅で、データの時間範囲を選択します。
時間範囲を選択した後、[Raw Logs] タブにログが表示されることを確認します。
-
コードエディタにデータ変換文を入力します。
構文の詳細については、「データ変換構文」をご参照ください。
-
データをプレビューします。
-
[クイック] をクリックします。
Simple Log Service は、クイックプレビューとアドバンスドプレビューをサポートしています。詳細については、「プレビューとデバッグ」をご参照ください。
-
[Preview Data] をクリックします。
プレビュー結果を確認します。
-
無効な文や権限の不備によりデータ変換が失敗した場合は、画面の指示に従って問題を解決してください。
-
変換後のデータが正しい場合は、ステップ 6 に進みます。
-
-
-
データ変換ジョブを作成します。
-
[Save as Transformation Job (Legacy)] をクリックします。
-
[Create Data Transformation Job] パネルで、以下のパラメーターを設定し、[OK] をクリックします。
パラメーター
説明
Job Name
データ変換ジョブの名前です。
Display Name
データ変換ジョブの表示名です。
Job Description
データ変換ジョブの説明です。
Authorization Method
データ変換ジョブがソース Logstore からデータを読み取るための認証方法を選択します。
-
デフォルトロール:ジョブは AliyunLogETLRole システムロールを偽装して、ソース Logstore からデータを読み取ります。
-
カスタムロール: ジョブはカスタムロールを偽装し、ソース Logstore からデータを読み取ります。
まず、カスタムロールにソース Logstore からの読み取り権限を付与します。次に、[Role ARN] フィールドにカスタムロールの Alibaba Cloud リソースネーム (ARN) を入力します。詳細については、「カスタムロールを使用したデータへのアクセス」をご参照ください。
Storage Destination
Target name
ストレージ送信先の名前です。ストレージ送信先には、Project や Logstore などの構成が含まれます。
複数のストレージ送信先を作成し、変換後のデータを異なる Logstore に保存できます。
-
変換文では、e_output 関数または e_coutput 関数の name パラメーターを使用して、送信先名 を定義します。詳細については、「e_outputLogStoreut」をご参照ください。
-
変換文に e_output 関数が含まれていない場合、ジョブはデフォルトで最初のストレージ送信先の Logstore に変換後のデータを書き込みます。
送信先 Logstore を 1 つだけ設定する場合は、通常、文内で e_output 関数を使用する必要はありません。
-
e_output 関数または e_coutput 関数で name、project、および Logstore パラメーターを設定した場合、ここで設定した [Destination Project] および [Target Store] の値がオーバーライドされます。
Destination Region
送信先 Project が存在するリージョンです。
クロスリージョンのデータ変換では、HTTPS を使用してデータを転送し、ログのプライバシーを確保します。
クロスリージョンのデータ変換では、インターネット経由でデータを転送します。インターネット接続が不安定な場合、遅延が発生する可能性があります。[DCDN Acceleration] を選択して、クロスリージョン転送を高速化できます。DCDN Acceleration を有効にする前に、送信先 Project でグローバルアクセラレーションが有効になっていることを確認してください。詳細については、「ログ収集の高速化」をご参照ください。
説明クロスリージョンのデータ変換では、圧縮後のインターネットトラフィックに対して課金されます。詳細については、「機能別課金モデルの課金対象項目」をご参照ください。
Destination Project
変換後のデータを保存する Project の名前です。
Target Store
変換後のデータを保存する送信先 Logstore の名前です。
Authorization Method
データ変換ジョブが送信先 Logstore にデータを書き込むための認証方法を選択します。
-
デフォルトロール: ジョブは、変換されたデータを送信先 Logstore に書き込むために、AliyunLogETLRole システムロールを仮装します。
-
カスタムロール: ジョブは、変換済みデータを送信先 Logstore に書き込むためにカスタムロールを偽装します。
まず、カスタムロールに送信先 Logstore への書き込み権限を付与します。次に、[Role ARN] フィールドにカスタムロールの ARN を入力します。詳細については、「カスタムロールを使用したデータへのアクセス」をご参照ください。
Transformation Scope
Time Range
データ変換ジョブの時間範囲を指定します。
説明この時間範囲は、ログの受信時刻に基づきます。
-
All:Logstore が受信した最初のログから、ジョブを手動で停止するまでデータを変換します。
-
From Specific Time:指定した開始時刻に受信されたログから、ジョブを手動で停止するまでデータを変換します。
-
Specific Time Range:(タスク) の開始時刻と終了時刻を指定します。(タスク) は指定した終了時刻に自動的に停止します。
Advanced Options
Advanced Parameter Settings
変換文で使用するデータベースパスワードなどの機密情報を Simple Log Service ではキーペアとしてキーと値のペアで保存できます。文内では、
res_local("key")で値を参照します。[+] をクリックして、複数のキーと値のペアを追加できます。例:config.vpc.vpc_id.test1:vpc-uf6mskb0b****n9yj は、ApsaraDB RDS インスタンスが存在する VPC の ID を指定します。

-
-
次のステップ
データ変換ジョブを作成した後、以下のタスクを実行できます。
-
[Data Transformation Overview] ページで、ジョブの詳細を表示したり、ジョブを変更・停止したりできます。詳細については、「データ変換ジョブの管理」をご参照ください。
-
送信先 Logstore でクエリを実行し、分析を行います。詳細については、「クエリと分析の概要」をご参照ください。