Alibaba Cloud Logstashでは、Elasticsearchコンソールでキーワードと時間範囲を指定して、Logstashクラスタの特定のログをクエリできます。ログは、クラスタの問題を特定し、クラスタの運用保守を効率的に実行するのに役立ちます。このトピックでは、ログをクエリする方法と、一般的なログの種類について説明します。
手順
目的のクラスタに移動します。
上部のナビゲーションバーで、クラスタが存在するリージョンを選択します。
[logstashクラスタ] ページで、クラスタを見つけて ID をクリックします。
表示されるページの左側のナビゲーションペインで、[ログ] をクリックします。その後、クラスタのログを表示できます。
サポートされているログの種類は、クラスタログ、スローログ、ガベージコレクション(GC)ログ、デバッグログです。次の表に、各ログの種類とその使用シナリオを示します。ログの詳細については、一般的なログの種類をご参照ください。
ログの種類
説明
使用シナリオ
クラスタログ
この種類のログは、Logstashクラスタの状態を記録します。
Logstashクラスタ内の各ノードの状態、またはクラスタ内のパイプラインに関する情報を表示する場合、クラスタのクラスタログを表示できます。パイプラインに関する情報には、ソースとデスティネーション間のネットワーク接続、パイプラインの作成またはパイプライン構成の変更のための実行された操作、またはパイプラインの実行で報告されたエラーが含まれます。
重要ビジネスでエラーが発生した場合、最初にクラスタのクラスタログと 監視データ を表示して、パフォーマンスまたは構成の問題のトラブルシューティングを行うことをお勧めします。
スローログ
この種類のログは、実行に長時間かかるパイプラインのイベントを記録します。パイプラインの実行完了に必要な時間が特定の時間しきい値を超えると、システムはスローログにイベントに関する情報を表示します。
重要デフォルトでは、スローログ収集は YML 構成ファイルで有効になっています。これは、Logstash の問題を見つけるのに役立ちます。スローログ収集の構成を削除しないことをお勧めします。詳細については、YML ファイルの構成をご参照ください。
ビジネスでデータ書き込み操作の完了に長時間かかる場合、スローログに基づいて問題のトラブルシューティングを行うことができます。この問題は、次のいずれかの理由によって発生する可能性があります。
パイプライン構成で指定したソースまたはデスティネーションのリソースが不足しています。ソースまたはデスティネーションのリソースを補充することをお勧めします。
Pipeline Batch Size パラメータと Pipeline Workers パラメータの値が小さすぎます。両方のパラメータを大きい値に設定することをお勧めします。詳細については、構成ファイルを使用したパイプラインの管理をご参照ください。
GCログ
この種類のログは、Logstashクラスタの GC に関する情報を記録します。GCログには、JVM ヒープメモリ使用量によってトリガーされる GC に関する情報が含まれています。Old GC、Concurrent Mark Sweep(CMS)GC、Full GC、Minor GC メカニズムに基づく GC 情報など、GC の詳細を取得できます。
Logstashクラスタでパフォーマンスのボトルネックが発生した場合、クラスタの GC ログで GC の詳細を表示し、GC 操作の完了に長時間かかっているか、頻繁に実行されているかを確認できます。
デバッグログ
この種類のログは、Logstashパイプラインの出力データに関する情報を記録します。デフォルトでは、デバッグログ収集は無効になっています。デバッグログ収集を有効にするには、Logstashクラスタに logstash-output-file_extend プラグインをインストールし、パイプラインの出力構成で file_extend パラメータを構成する必要があります。
Logstashパイプラインの出力データを表示するか、Elasticsearchコンソールでパイプライン構成をデバッグする場合、Logstashクラスタのデバッグログを表示できます。
[ログ] ページのタブで、クエリ文字列を入力し、開始時刻と終了時刻を選択して、[検索] をクリックします。
過去 7 日間に生成されたログをクエリできます。デフォルトでは、ログは時間の降順で表示されます。Luceneクエリ構文がサポートされています。詳細については、クエリ文字列構文をご参照ください。
この例では、[クラスタログ] タブで、次の条件を満たすログがクエリされます。level フィールドの値が INFO、host フィールドの値が 172.16.xx.xx、content フィールドの値に running キーワードが含まれている。この場合、クエリ文字列は
host:172.16.xx.xx AND level:info AND content:runningです。重要[検索] をクリックすると、クエリ文字列に一致するログが表示されます。
一般的なログの種類
クラスタログ
[クラスタログ] タブには、クラスタの操作ログが表示されます。各操作ログには、時刻、ノード IP アドレス、コンテンツの情報が含まれています。
パラメータ | 説明 |
[時刻] | ログが生成された時刻。 |
[ノード IP アドレス] | ログを生成したノードの IP アドレス。 |
[コンテンツ] | ログの詳細。次のフィールドが含まれています。
|
GCログ
デフォルトでは、GC ログ収集は有効になっています。各 GC ログには、時刻、ノード IP アドレス、コンテンツの情報が含まれています。詳細については、クラスタログをご参照ください。
スローログ
デフォルトでは、スローログ収集は有効になっています。Logstashクラスタの YML 構成ファイルで、スローログのデフォルト構成を表示または変更できます。詳細については、YML ファイルの構成をご参照ください。
Logstash の問題のトラブルシューティングを容易にするために、スローログ収集の構成を削除しないことをお勧めします。

デバッグログ
Logstashパイプラインの構成が正しくない場合、パイプラインの出力データが要件を満たさない可能性があります。この場合、デスティネーションのデータ形式を繰り返し確認し、コンソールでパイプライン構成を変更する必要があります。これにより、時間と労力のコストが増加します。この問題を解決するために、Logstash が提供するパイプライン構成デバッグ機能を使用できます。この機能を使用すると、パイプラインを作成してデプロイした後、Kibana コンソールのデバッグログで Logstash パイプラインの出力データを表示できます。これは、デバッグコストの削減に役立ちます。詳細については、パイプライン構成デバッグ機能の使用をご参照ください。
デフォルトでは、デバッグログ収集は無効になっています。デバッグログ収集を有効にするには、次の手順を実行します。
logstash-output-file_extend プラグインをインストールします。詳細については、プラグインのインストールと削除をご参照ください。
パイプラインの出力構成で file_extend パラメータを構成します。詳細については、構成ファイルを使用したパイプラインの管理をご参照ください。
デバッグログ収集を有効にすると、[デバッグログ] タブでパイプラインの出力データを取得できます。