EMR Doctor は、Object Storage Service (OSS) のデータ分析をサポートしています。OSS ストレージ分析機能は、OSS リソースの使用状況と健全性を理解するのに役立ちます。これにより、OSS に保存されているデータをより適切に管理できます。
背景情報
OSS は、インベントリ機能を提供します。この機能を設定すると、OSS はバケットのマニフェストファイルを定期的に生成します。これらのファイルには、バケット内のオブジェクトの数やサイズなどのストレージ情報が含まれています。EMR Doctor は、バケット内の最新のマニフェストファイルを使用して、データ使用量、ヘルスステータス、および Hive ストレージとの関連を分析します。
EMR Doctor で OSS ストレージ分析機能を使用するには、まずバケットのインベントリ機能を有効にする必要があります。インベントリ機能の詳細については、「バケットインベントリ」をご参照ください。
注意事項
OSS インベントリ機能の使用には料金がかかります。詳細については、「バケットインベントリ」をご参照ください。
OSS インベントリ機能の有効化
クラスターが複数の OSS バケットを使用しており、それらすべてのストレージ分析を取得したい場合は、次の手順に従って OSS コンソールで各バケットのインベントリ機能を有効にします。
OSS コンソールにログインします。
左側のナビゲーションウィンドウで、バケット をクリックします。[バケット] ページで、目的のバケットを見つけてクリックします。
左側のナビゲーションウィンドウで、 を選択します。
[バケットインベントリ] ページで、[インベントリの作成] をクリックします。
[インベントリレポートのルールの設定] パネルで、パラメーターを設定します。詳細については、「バケットインベントリ」をご参照ください。
重要[インベントリストレージバケット] が、OSS インベントリ機能を有効にしているバケットと同じであることを確認してください。
OSS に 100 億を超えるファイルを保存している場合は、[インベントリレポートのエクスポートサイクル] を [週次] に設定します。それ以外の場合は、エクスポートサイクルを [日次] に設定します。
に [オブジェクトサイズ] と [ストレージクラス] が含まれていることを確認してください。
[Alibaba Cloud OSS がバケットリソースにアクセスすることを理解し、承認します] を選択し、[OK] をクリックします。
OSS ストレージ分析の設定
OSS ストレージ分析は、インベントリ機能によって生成されるマニフェストファイルに依存します。EMR コンソールの [TAIHAODOCTOR] サービスの構成ページで、次のパラメーターを設定する必要があります。操作およびその他の構成の詳細については、「EMR Doctor 設定ガイド」をご参照ください。
設定項目 | 説明 |
| 分析対象の OSS バケットの名前。 |
| マニフェストファイルのディレクトリ。フォーマットは
|
たとえば、inventory_path パラメーターを reports に、inventory_bucket パラメーターを my-bucket に、inventory_name パラメーターを my-inventory に設定したとします。
この場合、マニフェストファイルのディレクトリ (collect.oss.manifest.dir) は reports/my-bucket/my-inventory となります。
クラスターが複数のバケットを使用し、各バケットでインベントリ機能を有効にしている場合は、バケット名と対応するマニフェストファイルのディレクトリを設定項目に追加できます。項目はカンマ (,) で区切ります。バケット名の順序がマニフェストファイルのディレクトリの順序と一致していることを確認してください。
単一バケットの例
この例では、my-bucket バケットを使用します。最終的なストレージ分析の設定は次のようになります。
collect.oss.bucket: my-bucket
collect.oss.manifest.dir: reports/my-bucket/my-inventory複数バケットの例
この例では、my-bucket1 バケットと my-bucket2 バケットを使用します。最終的なストレージ分析の設定は次のようになります。
collect.oss.bucket: my-bucket1,my-bucket2
collect.oss.manifest.dir: reports1/my-bucket1/my-inventory1,reports2/my-bucket2/my-inventory2