MaxCompute:MaxCompute 従量課金料金の急増をトラブルシューティングする方法

ステップ 1：Information Schema サービスの有効化

2024 年 3 月 1 日以降、MaxCompute では新規プロジェクトに対してプロジェクトレベルの Information Schema パッケージが自動インストールされなくなりました。そのため、新規プロジェクトにはデフォルトでプロジェクトレベルの Information Schema パッケージが含まれません。業務でメタデータクエリが必要な場合は、代わりにテナントレベルの Information Schema を使用してください。こちらの方がより包括的な情報を提供します。テナントレベルの Information Schema の使用方法については、「テナントレベルの Information Schema」をご参照ください。

MaxCompute では、完了したジョブの履歴が過去 14 日間保持されます。14 日以上前のデータを頻繁にクエリする場合は、定期的にメタデータをプロジェクト内にバックアップすることを推奨します。ただし、過去 14 日以内のジョブ履歴のみをアドホッククエリで検索する場合は、本ステップはスキップ可能です。

1. MaxCompute クライアントし、メタデータバックアップテーブルを作成するための次のコマンドを実行します。

   メタデータバックアップテーブルの作成

   -- project_name は MaxCompute プロジェクト名です。
   -- tasks_history バックアップテーブルを作成します。
   CREATE TABLE IF NOT EXISTS <project_name>.tasks_history
   (
       task_catalog STRING
       ,task_schema STRING
       ,task_name STRING
       ,task_type STRING
       ,inst_id STRING
       ,status STRING
       ,owner_id STRING
       ,owner_name STRING
       ,result STRING
       ,start_time DATETIME
       ,end_time DATETIME
       ,input_records BIGINT
       ,output_records BIGINT
       ,input_bytes BIGINT
       ,output_bytes BIGINT
       ,input_tables STRING
       ,output_tables STRING
       ,operation_text STRING
       ,signature STRING
       ,complexity DOUBLE
       ,cost_cpu DOUBLE
       ,cost_mem DOUBLE
       ,settings STRING
       ,ds STRING
   );
   -- tunnels_history バックアップテーブルを作成します。
   CREATE TABLE IF NOT EXISTS <project_name>.tunnels_history
   (
   tunnel_catalog  STRING
   ,tunnel_schema   STRING
   ,session_id      STRING
   ,operate_type    STRING
   ,tunnel_type     STRING
   ,request_id      STRING
   ,object_name     STRING
   ,partition_spec  STRING
   ,data_size       BIGINT
   ,block_id        BIGINT
   ,offset          BIGINT
   ,length          BIGINT
   ,owner_id        STRING 
   ,owner_name      STRING 
   ,start_time      DATETIME
   ,end_time        DATETIME 
   ,client_ip       STRING 
   ,user_agent      STRING 
   ,object_type     STRING 
   ,columns         STRING 
   ,ds  STRING
   );
   

2. DataWorks Data Studio インターフェイスで、「ODPS SQL ノード」を history_backup という名前で作成します。時間指定スケジューリングを設定し、tasks_history および tunnels_history バックアップテーブルにデータを書き込みます。左上隅の アイコンをクリックして保存します。

   ODPS SQL ノードのコマンド例を以下に示します。

   -- project_name は MaxCompute プロジェクト名です。 
   USE <project_name>; 
   -- tasks_history をバックアップします。
   INSERT INTO TABLE <project_name>.tasks_history 
   SELECT task_catalog,task_schema ,task_name,task_type STRING,inst_id,`status`,owner_id,owner_name,result
     ,start_time,end_time,input_records,output_records,input_bytes,output_bytes
     ,input_tables,output_tables,operation_text,signature,complexity,cost_cpu,cost_mem,settings,ds 
     FROM information_schema.tasks_history WHERE ds ='${datetime1}';
   -- tunnels_history をバックアップします。
   INSERT INTO TABLE <project_name>.tunnels_history 
   SELECT tunnel_catalog,tunnel_schema,session_id,operate_type,tunnel_type,request_id,object_name
     ,partition_spec,data_size,block_id,offset,length,owner_id,owner_name,start_time,end_time
     ,client_ip,user_agent,object_type,columns,ds 
     FROM information_schema.tunnels_history WHERE ds ='${datetime1}';
   

   ${datetime1} パラメーターは DataWorks のスケジューリングパラメーターです。ODPS SQL ノードで右側の スケジューリング設定 をクリックし、基本プロパティ セクションで パラメーター を datetime1=${yyyymmdd} に設定します。

   説明

   複数の MaxCompute プロジェクトからメタデータを分析する場合は、複数の ODPS SQL ノードを作成し、すべてのプロジェクトのメタデータを同一のバックアップテーブルに書き込みます。

SQL ジョブの計算コストが予想を上回った場合

SQL ジョブ全体のコストが高くなっています（外部テーブルジョブを含む）。これは、単一の異常ジョブ、繰り返し実行、または不適切なスケジューリング構成などが原因である可能性があります。

Spark コンピューティングコストが想定を超える

Spark ジョブの全体的な消費量が高くなっています。異常な消費量を示すジョブの inst_id をクエリし、その具体的な実行情報を確認できます。

1. MaxCompute クライアントし、ステップ 4 で特定した高コストプロジェクトに use コマンドで切り替えます。次に、TASKS_HISTORY を使用してジョブコストをクエリします。例を以下に示します。

   -- ODPS 2.0 データ型を有効化します。詳細については、ODPS 2.0 データ型を参照してください。
   SET odps.sql.decimal.odps2=true;
   SELECT  inst_id --インスタンス ID
   ,cost_cpu --ジョブの CPU 消費量（100 は 1 コア × 1 秒を意味します。例：10 コアを 5 秒間実行すると、cost_cpu は 10 × 100 × 5 = 5000 となります）。
   ,CAST(cost_cpu/100/3600 * 0.36 AS DECIMAL(18,5) ) cost_sum
   FROM  information_schema.tasks_history 
   -- 14 日以上前のメタデータをクエリする場合は、ステップ 3 で作成したバックアップテーブル（テーブル名：<project_name>.tasks_history）をクエリします。
   WHERE   task_type = 'CUPID' AND status='Terminated'
   AND ds = 'クエリ対象の日付パーティション'
   ORDER BY cost_sum DESC
   LIMIT 10000
   ;

   説明

   • Spark ジョブの当日計算コスト ＝ 課金時間合計 × 単価（USD 0.1041 / 時間・タスク）。

   • task_type = 'CUPID' は Spark ジョブを意味します。

2. inst_id を使用して実行詳細を確認します。例を以下に示します。

   SELECT operation_text 
     FROM information_schema.tasks_history 
   WHERE ds='ジョブ実行日付パーティション' AND inst_id='<inst_id>';
   

MapReduce ジョブの計算コストが予想を上回った場合

MapReduce ジョブの全体的な消費量が高くなっています。異常な消費量を示すジョブの inst_id をクエリし、詳細な実行情報を確認できます。

1. MaxCompute クライアントし、ステップ 4 で特定した高コストプロジェクトに use コマンドで切り替えます。次に、TASKS_HISTORY を使用してジョブコストをクエリします。例を以下に示します。

   -- ODPS 2.0 データ型を有効化します。詳細については、ODPS 2.0 データ型を参照してください。
   SET odps.sql.decimal.odps2=true;
   SELECT  inst_id --インスタンス ID
   ,cost_cpu --ジョブの CPU 消費量（100 は 1 コア × 1 秒を意味します。例：10 コアを 5 秒間実行すると、cost_cpu は 10 × 100 × 5 = 5000 となります）。
   ,CAST(cost_cpu/100/3600 * 0.36 AS DECIMAL(18,5) ) cost_sum
   FROM    information_schema.tasks_history 
   -- 14 日以上前のメタデータをクエリする場合は、ステップ 3 で作成したバックアップテーブル（テーブル名：<project_name>.tasks_history）をクエリします。
   WHERE   task_type = 'LOT' AND status='Terminated'
   AND ds = 'クエリ対象の日付パーティション'
   ORDER BY cost_sum DESC
   LIMIT 10000
   ;
   

2. inst_id を使用して実行詳細を確認します。例を以下に示します。

   SELECT operation_text 
     FROM information_schema.tasks_history 
   WHERE ds='ジョブ実行日付パーティション' AND inst_id='<inst_id>';
   

ストレージ料金が予想を上回った場合

使用量詳細 を使用してストレージ料金をクエリします。

1. 使用量詳細をダウンロードします。詳細については、「使用量詳細のダウンロード」をご参照ください。

2. 使用量詳細をアップロードします。詳細については、「使用量詳細データの MaxCompute へのアップロード」をご参照ください。

3. SQL を使用して使用量詳細を分析します。詳細については、「MaxCompute 課金使用量詳細の分析」をご参照ください。

パブリックネットワーク経由のダウンストリームトラフィック料金が予想を上回った場合

パブリックネットワーク経由のダウンストリームトラフィック料金全体が高くなっています。以下の手順で、どの期間およびカテゴリでダウンロード料金が高かったかを特定します。

1. MaxCompute クライアントし、ステップ 4 で特定した高コストプロジェクトに use コマンドで切り替えます。次に、TUNNELS_HISTORY を使用してダウンロード料金をクエリします。例を以下に示します。

   -- ODPS 2.0 データ型を有効化します。詳細については、ODPS 2.0 データ型を参照してください。
   set odps.sql.decimal.odps2=true;
   SELECT  ds
           ,operate_type
           ,SUM(CAST(data_size / 1024 / 1024 / 1024 * 0.8 AS DECIMAL(18,5))) download_fee
   FROM    information_schema.tunnels_history
   WHERE   operate_type = 'DOWNLOADLOG'
   OR      operate_type = 'DOWNLOADINSTANCELOG'
   AND     ds >= 'クエリ対象の日付パーティション'
   GROUP BY ds
            ,operate_type
   ORDER BY download_fee DESC
   ;

   説明

   ダウンロード料金 ＝ ダウンロードされたデータ量 × 単価（USD 0.1166 / GB）。

2. クエリ結果を用いて、ダウンロード料金の時間的傾向を分析することもできます。また、tunnel show history コマンドを実行して、詳細な履歴を確認することもできます。コマンドの完全なリファレンスについては、「Tunnel コマンド」をご参照ください。