Observable monitoring scheme Daquan - SLS full stack monitoring

まえがき

モニタリングは、あらゆる企業の IT システムに不可欠な機能として、コンピュータの誕生とともに登場しました。数十年の発展を経て、現在の IT 技術とアーキテクチャは大きく様変わりしています。開発モデル、システムアーキテクチャ、デプロイモデル、インフラストラクチャは、幾多のアーキテクチャ変遷を経てきました。現在、主流となっている技術はマイクロサービス、コンテナ化、クラウド、DevOps です。

これらのアーキテクチャの変化に伴い、システム全体はより複雑になり、開発はより多くの部門や関係者に依存し、デプロイモデルと運用環境もさらに動的で不確実なものになっています。そのため、IT 業界ではより体系的な可観測性の実現が求められるようになりました。モニタリングシステムも大きな変革期にあり、クラウドネイティブ、データ融合、インテリジェンスなどの方向へ進化しています。

モニタリングシステムの発展の歴史

IT モニタリングの発展の歩みを振り返ると、大きく 4 つの段階に分けられると考えます。すなわち、UNIX 時代、データセンター時代、分散時代、クラウドネイティブ時代です。

• UNIX 時代：UNIX や Linux の普及により、本格的な IT システムが誕生しました。1980 年代から 1990 年代にかけて、アプリケーションは通常スタンドアロンでデプロイされ、非常にシンプルなものでした。スタンドアロンアプリケーションの問題を特定するために、UNIX には CPU、メモリ、IO 使用率など多くのメトリクスが追加されました。同時に、これらの指標をより迅速に取得するため、UNIX/Linux には top、vmstat、iostat などのコマンドラインツールが提供されました。さらに、デスクトップシステムを使用するユーザー向けに、問題を可視化するグラフィカルツールも提供されました。これは、IT モニタリングにおける折れ線グラフの最も初期の応用例でもあります。この段階では、パフォーマンスやユーザーエクスペリエンスにはあまり注目されず、基本的には可用性、つまりサービスが正常に動作しているかどうかにのみ関心が向けられていました。

• データセンター時代：1990 年代に入ると、ますます多くの企業が自社専用のデータセンターを構築するようになり、その規模は数台から数十万台にまで及びました。この時期に、専門の IT 運用保守担当者が登場しました。これらのマシンをより効率的に管理するため、SNMP (Simple Network Management Protocol) が開発され、データセンター内の各マシンの状態を管理・モニタリングするようになりました。この時期のモニタリングアーキテクチャは、主にスタンドアロン方式で実装されていました。SNMP プロトコルを通じて各ホストのネットワーク情報とハードウェア情報がモニタリングされていました。この段階では、外部サービスを提供するクロスホストアプリケーションや Web ベースのアプリケーションも登場しており、モニタリングシステムはネットワーク遅延にもある程度注目していましたが、実際のユーザーリクエストの遅延まで把握するものではありませんでした。

• 分散時代：21 世紀に入りインターネットが普及すると、アプリケーションの利用シーンはますます広がっていきました。単一のマシンでは増大する需要に対応できなくなり、階層化された分散アーキテクチャが徐々に普及していきました。モニタリングシステムにもホストモニタリング、ネットワークモニタリング、ミドルウェアモニタリング、アプリケーションモニタリングといった階層的な構造が明確になっていきました。中でもアプリケーションモニタリングは新たなカテゴリとして登場し、可用性だけでなくパフォーマンスの問題も検知・解決することが求められました。この段階では、モニタリングシステムのアーキテクチャ自体も分散化していきました。バックエンドはデータ処理、ストレージ、アラートなど複数のマシンとモジュールで構成され、各モジュール自体も分散型ストリーム処理や分散データベースといった分散構成を採用する場合がありました。

• クラウドネイティブ時代：クラウドコンピューティングとコンテナ化技術の成熟に伴い、多くの企業がコンテナ化とマイクロサービス技術を活用したアプリケーション開発を開始し、デプロイ環境もパブリッククラウドやプライベートクラウドを選択するようになりました。クラウドネイティブ環境では、仮想化はより徹底的に行われ、環境はさらに動的なものとなります。そのため、従来のモニタリング手法では対応しきれなくなり、Kubernetes、マイクロサービス、クラウドリソースと連携できるモニタリングシステムが求められるようになりました。モニタリングの目的もより高度になり、実際のユーザー体験とトラブルシューティングの効率に重点が置かれるようになりました。そのため、より多くのモニタリング情報を収集するだけでなく、Logs や Traces などの他のオブザーバビリティデータとの相関分析を行い、問題を迅速に特定できることが求められます。同時に、AI 技術も導入され、異常の自動検知、特定、修復が実現されています。

クラウドネイティブ時代のモニタリングソリューション

モニタリングソリューション自体の進化に加え、クラウドネイティブ時代におけるモニタリングの能力と効果は、より高いレベルに引き上げられる必要があります。以下の特徴が求められます。

1. 広範なカバレッジ：インフラストラクチャ、コンテナ/K8s、クラウドベンダー、ミドルウェア、データベースなど幅広い対象をサポート

2. 統合ビュー：異なるレイヤーのデータを、統一されたアクセスとビューで一元表示

3. 統合アラート：アラートはモニタリングの重要な構成要素であり、インテリジェントノイズリダクション、動的な当直表、アラートのマージ/ルーティングなどの高度な機能による一元管理で、管理コストと運用コストを削減

4. インテリジェンス：企業の IT システムに関わるコンポーネント数は膨大であり、静的なルールベースのアラートでは対応が困難です。そのため、ヒューリスティックな AIOps 時系列異常検知により、異常な曲線を自動的に検出しアラートを発することが求められます

5. データ融合分析：Trace、Log、Event などの他のオブザーバビリティデータと容易かつ効果的に相関分析を行い、迅速な問題の特定と解決を実現

SLS フルスタックモニタリング

SLS は Alibaba Cloud のオブザーバビリティデータエンジンとして、ログ、メトリクス、分散トレーシング、イベントなどのオブザーバビリティデータをワンストップで収集・保存する機能を備えています。ユーザーが業務システムを迅速に接続しモニタリングできるよう、SLS はフルスタックモニタリング APP を提供し、さまざまなモニタリングデータを 1 つのインスタンスに集約して一元管理・モニタリングを実現します。フルスタックモニタリングは、SLS のモニタリングデータ収集、保存、分析、可視化、アラート、AIOps などの機能を基盤として構築されています。詳細な機能は以下の通りです。

• ホストモニタリング、Kubernetes モニタリング、データベースモニタリング、ミドルウェアモニタリングなど、各種システムのリアルタイムモニタリング

• ECS および K8s へのワンクリックインストールをサポートし、GUI によるモニタリング設定管理が可能で、ホストにログインすることなくモニタリング項目の設定が可能

• 長年の経験を蓄積したベテラン運用保守エンジニアによるレポートテンプレートで、リソース概要、ウォーターレベルモニタリング、ホットスポット分析、詳細メトリクスなど数十種類のレポートを提供

• PromQL、SQL92 などの分析構文によるカスタマイズ分析をサポート

• AIOps 指標検査により、機械学習技術を活用して異常指標を自動検出

• カスタマイズ可能なアラート設定をサポート。アラート通知はメッセージセンター、SMS、メール、音声 (電話)、DingTalk に直接連携し、カスタム WebHook の接続もサポート

フルスタックモニタリング機能の概要

ホストモニタリング

Kubernetes モニタリング

データベースモニタリング

ミドルウェアモニタリング

近日公開

現在、フルスタックモニタリングではホストモニタリング、K8s モニタリング、データベースモニタリング、ミドルウェアモニタリングを提供しています。今後、以下のような水平方向および垂直方向の機能拡張も予定されています。

1. クラウドリソースモニタリング：Alibaba Cloud 上の各種モニタリング指標に加え、AWS や Azure など他社のクラウドモニタリング指標もサポート

2. ホストモニタリングの機能強化：プロセスレベルモニタリング、カーネルモニタリング、プロセス/カーネルプロファイル機能などの追加

3. K8s のパフォーマンス、変更管理、サービストポロジーモニタリング機能の追加、データベースへの診断と計画モニタリングの追加、ミドルウェアの対応種類拡充

4. ユーザー体験やアプリケーションに関連するモニタリング機能の追加：ダイヤルテスト、フロントエンドモニタリング、モバイルモニタリングなど