云原生大数据计算服务 MaxCompute：MaxCompute后付费消费突增排查

步骤一：获取Information Schema服务

自2024年03月01日开始，MaxCompute停止对新增项目自动安装项目级别Information Schema，即新增的项目默认没有项目级别Information Schema的Package。若有查元数据的业务，可以查询租户级别的Information Schema，以便获取更全的信息。租户级别Information Schema的具体使用说明请参见租户级别Information Schema。

MaxCompute对项目内已完成的作业历史，保留近14天数据。如果您时常有查询14天以前的数据需求，建议定时备份元数据至您的项目中。如果您更多是临时查询14天以内的作业运行历史，可以忽略此步骤。

1. 登录MaxCompute客户端，执行如下命令创建元数据备份表。

   创建元数据备份表命令

   -- project_name为MaxCompute项目名称。
   -- 创建tasks_history备份表。
   CREATE TABLE IF NOT EXISTS <project_name>.tasks_history
   (
       task_catalog STRING
       ,task_schema STRING
       ,task_name STRING
       ,task_type STRING
       ,inst_id STRING
       ,status STRING
       ,owner_id STRING
       ,owner_name STRING
       ,result STRING
       ,start_time DATETIME
       ,end_time DATETIME
       ,input_records BIGINT
       ,output_records BIGINT
       ,input_bytes BIGINT
       ,output_bytes BIGINT
       ,input_tables STRING
       ,output_tables STRING
       ,operation_text STRING
       ,signature STRING
       ,complexity DOUBLE
       ,cost_cpu DOUBLE
       ,cost_mem DOUBLE
       ,settings STRING
       ,ds STRING
   );
   -- 创建tunnels_history备份表
   CREATE TABLE IF NOT EXISTS <project_name>.tunnels_history
   (
   tunnel_catalog  STRING
   ,tunnel_schema   STRING
   ,session_id      STRING
   ,operate_type    STRING
   ,tunnel_type     STRING
   ,request_id      STRING
   ,object_name     STRING
   ,partition_spec  STRING
   ,data_size       BIGINT
   ,block_id        BIGINT
   ,offset          BIGINT
   ,length          BIGINT
   ,owner_id        STRING 
   ,owner_name      STRING 
   ,start_time      DATETIME
   ,end_time        DATETIME 
   ,client_ip       STRING 
   ,user_agent      STRING 
   ,object_type     STRING 
   ,columns         STRING 
   ,ds  STRING
   );
   

2. 进入DataWorks数据开发界面，创建ODPS SQL节点（history_backup）并配置定时调度，用于定时将数据写入备份表tasks_history和tunnels_history。完成后单击左上角图标保存。

   ODPS SQL节点运行的命令示例如下：

   -- project_name为MaxCompute项目名称。 
   USE <project_name>; 
   -- 备份tasks_history。
   INSERT INTO TABLE <project_name>.tasks_history 
   SELECT task_catalog,task_schema ,task_name,task_type STRING,inst_id,`status`,owner_id,owner_name,result
     ,start_time,end_time,input_records,output_records,input_bytes,output_bytes
     ,input_tables,output_tables,operation_text,signature,complexity,cost_cpu,cost_mem,settings,ds 
     FROM information_schema.tasks_history WHERE ds ='${datetime1}';
   -- 备份tunnels_history。
   INSERT INTO TABLE <project_name>.tunnels_history 
   SELECT tunnel_catalog,tunnel_schema,session_id,operate_type,tunnel_type,request_id,object_name
     ,partition_spec,data_size,block_id,offset,length,owner_id,owner_name,start_time,end_time
     ,client_ip,user_agent,object_type,columns,ds 
     FROM information_schema.tunnels_history WHERE ds ='${datetime1}';
   

   ${datetime1}为DataWorks的调度参数，需要在ODPS SQL节点右侧，单击调度配置，在基础属性区域配置参数值为datetime1=${yyyymmdd}。

   说明

   如果需要同时对多个MaxCompute项目的元数据进行统计分析，您可以创建多个ODPS SQL节点，将这些MaxCompute项目的元数据写入到同一张数据备份表中。

SQL作业计算费用高出预期

SQL作业整体消费较高（包含外部表作业），可能是单条作业消费异常，也可能由于重复执行或调度属性配置不合理造成作业量突增。

Spark计算费用高出预期

Spark作业整体消费较高，可以通过查询消费异常的作业inst_id，查看具体的执行信息。

1. 登录MaxCompute客户端，使用use命令切换到步骤四找出的高额消费的项目，通过TASKS_HISTORY查询作业消费情况，命令示例如下。

   -- 开启2.0数据类型开关。2.0数据类型详情，请参见2.0数据类型版本。
   SET odps.sql.decimal.odps2=true;
   SELECT  inst_id --实例id
   ,cost_cpu --作业CPU消耗（100表示1 core×s。例如：10 core运行5s，cost_cpu为10×100×5=5000）。
   ,CAST(cost_cpu/100/3600 * 0.36 AS DECIMAL(18,5) ) cost_sum
   FROM  information_schema.tasks_history 
   -- 如果是查询14天前的元数据，需要查询通过步骤三备份的表，表名为<project_name>.tasks_history
   WHERE   task_type = 'CUPID' AND status='Terminated'
   AND ds = '待查询的日期分区'
   ORDER BY cost_sum DESC
   LIMIT 10000
   ;

   说明

   • Spark作业当日计算费用 = 当日总计算时×单价（0.1041 USD/Hour/Task）。

   • task_type = 'CUPID'表示Spark作业。

2. 根据inst_id，查看具体的执行信息，命令示例如下。

   SELECT operation_text 
     FROM information_schema.tasks_history 
   WHERE ds='任务执行所在日期分区' AND inst_id='<inst_id>';
   

MapReduce作业消费高出预期

MapReduce作业整体消费较高，可以通过查询消费异常的作业inst_id，查看具体的执行信息。

1. 登录MaxCompute客户端，使用use命令切换到步骤四找出的高额消费的项目，通过TASKS_HISTORY查询作业消费情况，命令示例如下。

   -- 开启2.0数据类型开关。2.0数据类型详情，请参见2.0数据类型版本。
   SET odps.sql.decimal.odps2=true;
   SELECT  inst_id --实例id
   ,cost_cpu --作业CPU消耗（100表示1 core×s。例如：10 core运行5s，cost_cpu为10×100×5=5000）。
   ,CAST(cost_cpu/100/3600 * 0.36 AS DECIMAL(18,5) ) cost_sum
   FROM    information_schema.tasks_history 
   -- 如果是查询14天前的元数据，需要查询通过步骤三备份的表，表名为<project_name>.tasks_history
   WHERE   task_type = 'LOT' AND status='Terminated'
   AND ds = '待查询的日期分区'
   ORDER BY cost_sum DESC
   LIMIT 10000
   ;
   

2. 根据inst_id，查看具体的执行信息，命令示例如下。

   SELECT operation_text 
     FROM information_schema.tasks_history 
   WHERE ds='任务执行所在日期分区' AND inst_id='<inst_id>';
   

存储费用高出预期

需要使用用量明细查询存储费用。

1. 下载用量明细，详情请参见下载用量明细。

2. 上传用量明细，详情请参见上传用量明细数据至MaxCompute。

3. 通过SQL分析，详情请参见MaxCompute账单用量明细分析。

公网下行流量费用高出预期

公网下行流量整体消费较高，可以按照如下操作分析具体哪段时间哪个类别的下载费用较高。

1. 登录MaxCompute客户端，使用use命令切换到步骤四找出的高额消费的项目，通过TUNNELS_HISTORY查询下载消费情况，命令示例如下。

   --开启2.0数据类型开关。2.0数据类型详情，请参见2.0数据类型版本。
   set odps.sql.decimal.odps2=true;
   SELECT  ds
           ,operate_type
           ,SUM(CAST(data_size / 1024 / 1024 / 1024 * 0.8 AS DECIMAL(18,5))) download_fee
   FROM    information_schema.tunnels_history
   WHERE   operate_type = 'DOWNLOADLOG'
   OR      operate_type = 'DOWNLOADINSTANCELOG'
   AND     ds >= '待查询的日期分区'
   GROUP BY ds
            ,operate_type
   ORDER BY download_fee DESC
   ;

   说明

   一次下载费用=下载数据量×单价（0.1166 USD/GB）。

2. 按照执行结果也可以分析出某个时间段内的下载费用走势。另外可以通过tunnel show history命令查看具体历史信息，具体命令请参见Tunnel命令。