すべてのプロダクト
Search
ドキュメントセンター

Realtime Compute for Apache Flink:Simple Log Service カタログの管理

最終更新日:Jan 07, 2025

Simple Log Service カタログを設定して、システムが Simple Log Service のログストア内のログを自動的に解析し、テーブルスキーマを推測できるようにすることができます。 Simple Log Service カタログを設定すると、Realtime Compute for Apache Flink の開発コンソールの SQL エディターページで Simple Log Service のログストアに直接アクセスできます。 この方法では、Flink SQL で Simple Log Service テーブルのスキーマを宣言する必要なく、フィールド情報を入手できます。 このトピックでは、Realtime Compute for Apache Flink の開発コンソールで Simple Log Service カタログを作成、表示、使用、および削除する方法について説明します。

背景

このトピックでは、Simple Log Service カタログを管理するために行うことができる次の操作について説明します。

制限事項

  • テーブル内のすべてのフィールドは文字列として解析されます。 他のデータ型を使用する場合は、Flink SQL を使用してデータ型の変換を実行する必要があります。

  • Ververica Runtime(VVR)6.0.7 以降を使用する Realtime Compute for Apache Flink のみ Simple Log Service カタログをサポートしています。

  • DDL ステートメントを使用して既存の Simple Log Service カタログを変更することはできません。

  • Simple Log Service カタログを使用してデータテーブルをクエリすることのみ可能です。 Simple Log Service カタログを使用してデータベースとテーブルを作成、変更、または削除することはできません。

  • Simple Log Service カタログによって提供されるテーブルは、Flink SQL デプロイメントのソーステーブルおよび結果テーブルとして直接使用できますが、ルックアップディメンションテーブルとして使用することはできません。

Simple Log Service カタログの作成

UI 上または SQL ステートメントを実行することで、Simple Log Service カタログを作成できます。 UI 上で Simple Log Service カタログを作成することをお勧めします。

UI 上での Simple Log Service カタログの作成

  1. カタログページに移動します。

    1. Realtime Compute for Apache Flink コンソール にログインします。 管理するワークスペースを見つけ、[アクション] 列の [コンソール] をクリックします。

    2. 左側のナビゲーションペインで、[カタログ] をクリックします。

  2. カタログリストページで、[カタログの作成] をクリックします。 カタログの作成ダイアログボックスで、カタログタイプの選択手順の組み込みカタログタブにある SLS をクリックし、[次へ] をクリックします。

  3. カタログの設定手順でパラメーターを設定します。

    重要

    Simple Log Service カタログを作成した後、パラメーター設定を変更することはできません。 パラメーター設定を変更する場合は、作成した Simple Log Service カタログを削除し、Simple Log Service カタログを再度作成する必要があります。

    image

    パラメーター

    データ型

    説明

    必須

    備考

    カタログ名

    STRING

    Simple Log Service カタログの名前。

    はい

    カスタム名を入力します。

    エンドポイント

    STRING

    Simple Log Service のエンドポイント。

    はい

    詳細については、「エンドポイント」をご参照ください。

    プロジェクト

    STRING

    Simple Log Service プロジェクトの名前。

    はい

    該当なし。

    accessId

    STRING

    Alibaba Cloud アカウントの AccessKey ID。

    はい

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey ID を設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。

    accessKey

    STRING

    Alibaba Cloud アカウントの AccessKey シークレット。

    はい

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey シークレットを設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。

  4. [確認] をクリックします。

  5. カタログリストページの左側にある [カタログ] ペインで、作成したカタログを表示します。

SQL ステートメントを実行して Simple Log Service カタログを作成する

  1. SQL エディターページの スクリプト タブのコードエディターで、次のステートメントを入力して Simple Log Service カタログを作成します。

    CREATE CATALOG <catalogName> WITH(
      'type'='sls',
      'endpoint'='<brokers>',
      'project'='project',
      'accessId'='${secret_values.ak_id}',
      'accessKey'='${secret_values.ak_secret}'
    )

    パラメーター

    データ型

    説明

    必須

    備考

    catalogName

    STRING

    Simple Log Service カタログの名前。

    はい

    カスタム名を入力します。

    type

    STRING

    カタログのタイプ。

    はい

    値を sls に設定します。

    endpoint

    STRING

    Simple Log Service のエンドポイント。

    はい

    詳細については、「エンドポイント」をご参照ください。

    project

    STRING

    Simple Log Service プロジェクトの名前。

    はい

    該当なし。

    accessId

    STRING

    Alibaba Cloud アカウントの AccessKey ID。

    はい

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey ID を設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。

    accessKey

    STRING

    Alibaba Cloud アカウントの AccessKey シークレット。

    はい

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey シークレットを設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。

  2. カタログの作成に使用するコードを選択し、コードの左側に表示される [実行] をクリックします。 カタログの作成に使用するコードを右クリックし、[実行] を選択することもできます。

  3. カタログリストページの左側にある [カタログ] ペインで、作成したカタログを表示します。

Simple Log Service カタログの表示

Simple Log Service カタログが設定された後、次の手順を実行して Simple Log Service のメタデータを表示できます。

  1. カタログページに移動します。

    1. Realtime Compute for Apache Flink コンソール にログインします。

    2. 管理するワークスペースを見つけ、[アクション] 列の [コンソール] をクリックします。

    3. 左側のナビゲーションペインで、[カタログ] をクリックします。

  2. [カタログリスト] ページで、目的のカタログを見つけ、カタログの [名前] 列と [タイプ] 列を表示します。

    説明

    カタログ内のログストアに関する情報を表示する場合は、カタログの [アクション] 列の [表示] をクリックします。

Simple Log Service のログストアに関する情報の表示

  1. SQL エディターページの スクリプト タブのコードエディターで、次のステートメントを入力します。

    DESCRIBE `${catalog_name}`.`${project_name}`.`${logstore_name}`;

    パラメーター

    説明

    ${catalog_name}

    Simple Log Service カタログの名前。

    ${project_name}

    Simple Log Service プロジェクトの名前。

    ${logstore_name}

    Simple Log Service のログストアの名前。

  2. カタログの表示に使用するコードを選択し、コードの左側の [実行] をクリックします。

    コードが実行された後、結果にテーブルに関する情報を表示できます。

    表信息

Simple Log Service カタログの使用

  • Simple Log Service カタログのテーブルをソーステーブルとして使用し、Simple Log Service のログストアからデータを読み取ります。

    INSERT INTO ${other_sink_table}
    SELECT...
    FROM `${catalog_name}`.`${project_name}`.`${logstore_name}`/*+OPTIONS('startTime'='2023-06-01 00:00:00')*/;
    説明

    Simple Log Service カタログのテーブルを使用する際に WITH 句で他のパラメーターを指定する場合は、SQL ヒント を使用してパラメーターを追加することをお勧めします。 たとえば、上記の SQL ステートメントの SQL ヒントは、データ消費が '2023-06-01 00:00:00' から開始されることを指定しています。 その他のパラメーターの詳細については、「Simple Log Service コネクター」をご参照ください。

  • Simple Log Service カタログのテーブルを結果テーブルとして使用し、Simple Log Service のログストアにデータを書き込みます。

    INSERT INTO `${catalog_name}`.`${project_name}`.`${logstore_name}`
    SELECT ... 
    FROM ${other_source_table}
重要

Simple Log Service カタログを使用してソースログストアからデータを読み取る前に、インデックス作成を有効にする必要があります。 同様に、Simple Log Service カタログを使用してデスティネーションログストアにデータを書き込む前に、インデックス作成を有効にする必要があります。 これは、カタログが最初に結果テーブルから特定のデータを読み取り、書き込む必要のあるデータのスキーマが Simple Log Service のデスティネーションログストアのスキーマと同じであるかどうかを判断する必要があるためです。 インデックス作成を有効にする方法の詳細については、「インデックスの作成」をご参照ください。

Simple Log Service カタログの削除

UI 上または SQL ステートメントを実行することで、Simple Log Service カタログを削除できます。 UI 上で Simple Log Service カタログを削除することをお勧めします。

警告

Simple Log Service カタログを削除した後も、実行中のデプロイメントは影響を受けません。 ただし、カタログのテーブルを使用するデプロイメントは、デプロイメントが公開または再起動された場合、テーブルを見つけることができなくなります。 Simple Log Service カタログを削除する際は注意してください。

UI 上での Simple Log Service カタログの削除

  1. カタログページに移動します。

    1. Realtime Compute for Apache Flink コンソール にログインします。

    2. 管理するワークスペースを見つけ、[アクション] 列の [コンソール] をクリックします。

    3. 左側のナビゲーションペインで、[カタログ] をクリックします。

  2. [カタログリスト] ページで、目的のカタログを見つけ、[アクション] 列の [削除] をクリックします。

  3. 表示されるメッセージで、[削除] をクリックします。

  4. カタログリストページの左側にある [カタログ] ペインで、カタログが削除されているかどうかを確認します。

SQL ステートメントを実行して Simple Log Service カタログを削除する

  1. SQL エディターページの スクリプト タブのコードエディターで、次のステートメントを入力します。

    DROP CATALOG ${catalog_name};

    上記のステートメントで、${catalog_name} は削除する Simple Log Service カタログの名前を示します。

  2. カタログの削除に使用するステートメントを右クリックし、ショートカットメニューから [実行] を選択します。

  3. カタログリストページの左側にある [カタログ] ペインで、カタログが削除されているかどうかを確認します。

Simple Log Service カタログを使用して取得されるテーブルに関する情報

Simple Log Service カタログを使用して Simple Log Service テーブルからデータを取得する場合、デフォルトのパラメーターとメタデータが派生テーブルに追加されます。 これは、テーブルを効率的に使用するのに役立ちます。 Simple Log Service カタログを使用して取得されるテーブルには、次の情報が含まれています。

  • 関連する Simple Log Service テーブルのスキーマ推論

    Simple Log Service カタログが Log Simple Service のログを解析してトピックのスキーマを取得する場合、カタログはメッセージを消費してメッセージを解析し、データのスキーマを取得しようとします。 Simple Log Service カタログは、Simple Log Service のログを解析してフィールド名とデータ型を取得します。 Simple Log Service のログは STRING 型のデータとして保存されます。 したがって、すべてのフィールドは STRING 型です。

  • デフォルトで追加する必要があるテーブルパラメーター

    パラメーター

    説明

    備考

    コネクター

    コネクターのタイプ。

    値を sls に設定します。

    エンドポイント

    Simple Log Service のエンドポイント。

    詳細については、「エンドポイント」をご参照ください。

    プロジェクト

    Simple Log Service プロジェクトの名前。

    該当なし。

    ログストア

    Simple Log Service のログストアまたはメトリックストアの名前。

    該当なし。

    accessId

    Alibaba Cloud アカウントの AccessKey ID。

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey ID を設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。

    accessKey

    Alibaba Cloud アカウントの AccessKey シークレット。

    詳細については、「アカウントの AccessKey ID と AccessKey シークレットに関する情報を表示するにはどうすればよいですか?」をご参照ください。

    重要

    AccessKey ペアを保護するために、キー管理方式を使用して AccessKey シークレットを設定することをお勧めします。 詳細については、「キーの管理」をご参照ください。