应用实时监控服务ARMS：如何通过Grafana大盘展示自定义指标并告警

操作流程

通过Prometheus监控自定义Grafana大盘的操作流程如下图所示。

步骤一：上传应用

将应用制作成镜像并上传至阿里云容器镜像服务的镜像仓库的操作步骤如下：

1. 执行以下命令重新编译模块。

   mvn clean install -DskipTests

2. 执行以下命令构建镜像。

   docker build -t <本地临时Docker镜像名称>:<本地临时Docker镜像版本号> . --no-cache

   示例命令：

   docker build -t promethues-demo:v0 . --no-cache

3. 执行以下命令为镜像打标。

   sudo docker tag <本地临时Docker镜像名称>:<本地临时Docker镜像版本号> <Registry域名>/<命名空间>/<镜像名称>:<镜像版本号>

   示例命令：

   sudo docker tag promethues-demo:v0 registry.cn-hangzhou.aliyuncs.com/testnamespace/promethues-demo:v0

4. 执行以下命令将镜像推送至镜像仓库。

   sudo docker push <Registry域名>/<命名空间>/<镜像名称>:<镜像版本号>

   示例命令：

   sudo docker push registry.cn-hangzhou.aliyuncs.com/testnamespace/promethues-demo:v0

   在容器镜像服务控制台的镜像版本页面显示上传的应用镜像。

步骤二：部署应用

将应用部署至容器服务K8s集群的操作步骤如下：

1. 登录容器服务管理控制台。
2. 在左侧导航栏，选择集群。
3. 在集群列表页面，找到目标集群，在其右侧操作列单击应用管理。
4. 创建容器组。
   1. 在左侧导航栏，选择工作负载 > 无状态。
   2. 在无状态页面，单击使用模板创建。
   3. 在创建页面的模板代码框输入以下内容，然后单击创建。

      apiVersion: apps/v1 # for versions before 1.8.0 use apps/v1beta1
      kind: Deployment
      metadata:
        name: prometheus-demo
      spec:
        replicas: 2
        template:
          metadata:
            annotations:
              prometheus.io/scrape: 'true'
              prometheus.io/path: '/prometheus-metrics'
              prometheus.io/port: '8081'
            labels:
              app: tomcat
          spec:
            containers:
            - name: tomcat
              imagePullPolicy: Always
              image: <Registry域名>/<命名空间>/<镜像名称>:<镜像版本号>
              ports:
              - containerPort: 8080
                name: tomcat-normal
              - containerPort: 8081
                name: tomcat-monitor

      示例代码：

      apiVersion: apps/v1 # for versions before 1.8.0 use apps/v1beta1
      kind: Deployment
      metadata:
        name: prometheus-demo
        labels:
          app: tomcat
      spec:
        replicas: 2
        selector:
          matchLabels:
            app: tomcat
        template:
          metadata:
            annotations:
              prometheus.io/scrape: 'true'
              prometheus.io/path: '/prometheus-metrics'
              prometheus.io/port: '8081'
            labels:
              app: tomcat
          spec:
            containers:
            - name: tomcat
              imagePullPolicy: Always
              image: registry.cn-hangzhou.aliyuncs.com/peiyu-test/prometheus-demo:v0
              ports:
              - containerPort: 8080
                name: tomcat-normal
              - containerPort: 8081
                name: tomcat-monitor

   无状态页面显示创建的容器组。
5. 创建服务。
   1. 在左侧导航栏，选择服务与路由 > 服务。
   2. 在服务页面，单击使用YAML创建资源。
   3. 在创建页面的模板代码框输入以下内容，然后单击创建。

      apiVersion: v1
      kind: Service
      metadata:
        labels:
          app: tomcat
        name: tomcat
        namespace: default
      spec:
        ports:
        - name: tomcat-normal
          port: 8080
          protocol: TCP
          targetPort: 8080
        - name: tomcat-monitor
          port: 8081
          protocol: TCP
          targetPort: 8081
        type: NodePort
        selector:
          app: tomcat

   服务页面显示创建的服务。

步骤三：配置采集规则

Prometheus监控会默认监控CPU信息、内存信息、网络信息等。如果您需要监控默认数据外的其他数据，例如订单信息，那么需要为应用自定义Prometheus监控采集规则。

1. 登录ARMS控制台。
2. 在左侧导航栏选择Prometheus监控 > Prometheus实例列表，进入Prometheus监控的实例列表页面。
3. 单击目标Prometheus实例名称。
4. 为应用配置Prometheus监控采集规则分为以下两种情况。
   • 需要监控部署在K8s集群内的应用的业务数据，例如订单信息。操作步骤如下：
     1. 在左侧导航树单击服务发现，然后单击配置页签。
     2. 在配置页面单击ServiceMonitor页签，然后单击添加ServiceMonitor。
     3. 在弹出的对话框中输入以下内容，然后单击确定。

        apiVersion: monitoring.coreos.com/v1
        kind: ServiceMonitor
        metadata:
          #  填写一个唯一名称
          name: tomcat-demo
          #  填写目标命名空间
          namespace: default
        spec:
          endpoints:
          - interval: 30s
            #  填写service.yaml中Prometheus Exporter对应的Port的Name字段的值
            port: tomcat-monitor
            #  填写Prometheus Exporter对应的Path的值
            path: /metrics
          namespaceSelector:
            any: true
            #  Demo的命名空间
          selector:
            matchLabels:
              #  填写service.yaml的Label字段的值以定位目标service.yaml
              app: tomcat

        ServiceMonitor页签下显示配置的服务发现。

        
   • 需要监控部署在K8s集群之外的业务数据，如Redis连接数。操作步骤如下：
     1. 在左侧导航树单击设置，然后在设置页签右上角单击编辑Prometheus.yaml。
     2. 在弹出的对话框中输入以下内容，然后单击保存。

        global:
          scrape_interval:     15s # Set the scrape interval to every 15 seconds. Default is every 1 minute.
          evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute.
        scrape_configs:
          - job_name: 'prometheus'
            static_configs:
            - targets: ['localhost:9090']

步骤四：配置大盘

配置Grafana大盘以展示数据的操作步骤如下：

1. 打开Grafana大盘概览页。
   说明 您需要开通Grafana专家版大盘。
2. 在左侧导航栏选择+ > Dashboard。
3. 在New dashboard页面中单击Add new panel。
   
4. 在Edit Panel页面的Query区域的下拉列表中选择集群。在A折叠面板的Metrics下拉列表中选择监控指标，例如：go_gc_duration_seconds。
   
5. 在页面右侧的区域，填写图表名称，选择大盘的可视化类型，如图形、表格、热点图等，并根据您的需求配置其他参数。
   
6. 单击右上角Save，在弹出的对话框中输入大盘名称，并选择集群，然后单击Save。

   您可根据需要自行创建多个大盘和图表。

   
   配置完毕后的Grafana大盘如图所示。

步骤五：监控复杂指标

如果需要监控涉及复杂运算的指标，您需要在Prometheus监控中进行数据调试，从而得到相应的PromQL语句。

1. 打开Grafana大盘概览页。
2. 在左侧导航栏单击Explore图标。
3. 在Explore页面顶部下拉框中选择集群，然后在Metrics输入框中输入PromQL语句，单击右上角的Run Query进行调试。
   
4. 调试成功后，您可以参考上述步骤继续添加大盘或图表，具体操作，请参见步骤四：配置大盘。

步骤六：创建报警

为监控指标创建报警的操作步骤如下：

1. 登录ARMS控制台。
2. 在左侧导航栏选择Prometheus监控 > Prometheus实例列表。
3. 在Prometheus监控页面的顶部菜单栏，选择K8s集群所在的地域，单击目标K8s集群的名称。
4. 在左侧导航栏，选择报警配置。
5. 在报警配置页面右上角，单击创建报警。
6. 在创建报警面板，执行以下操作：
   1. 可选：从告警模板下拉列表，选择模板。
   2. 在规则名称文本框，输入规则名称，例如：网络接收压力报警。
   3. 在告警表达式文本框，输入告警表达式。例如：(sum(rate(kube_state_metrics_list_total{job="kube-state-metrics",result="error"}[5m])) / sum(rate(kube_state_metrics_list_total{job="kube-state-metrics"}[5m]))) > 0.01。
      重要 PromQL语句中包含的$符号会导致报错，您需要删除包含$符号的语句中=左右两边的参数及=。例如：将sum (rate (container_network_receive_bytes_total{instance=~"^$HostIp.*"}[1m]))修改为sum (rate (container_network_receive_bytes_total[1m]))。
   4. 在持续时间文本框，输入持续时间N，当连续N分钟满足告警条件的时候才触发告警。例如：1分钟，当告警条件连续1分钟都满足时才会发送告警。
      说明 持续N分钟满足告警条件是指在连续N分钟内，您上面设置的PromQL语句条件都能满足。Prometheus默认数据采集周期为15s，如果没有连续N×60/15=4N个数据点满足告警条件（PromQL语句），就不会发送告警。如Prometheus告警规则默认持续时间为1分钟，既只有连续4个数据点都满足告警条件（PromQL语句）才会触发告警。如果您想在任何一个数据点满足告警条件（PromQL语句）就发送告警，请修改持续时间为0分钟。
   5. 在告警消息文本框，输入告警消息。
   6. 可选：在高级配置的标签区域，单击创建标签可以设置报警标签，设置的标签可用作分派规则的选项。
   7. 可选：在高级配置的注释区域，单击创建注释，设置键为message，设置值为 {{变量名}}告警信息。设置完成后的格式为：message:{{变量名}}告警信息，例如：message:{{$labels.pod_name}}重启。
      您可以自定义变量名，也可以选择已有的标签作为变量名。已有的标签包括：

      • 告警规则表达式指标中携带的标签。
      • Prometheus监控通过告警规则创建的标签。
      • 系统自带的默认标签，默认标签说明如下。

        标签	说明
        alertname	告警名称，格式为：告警名称_集群名称。
        _aliyun_arms_alert_level	告警等级。
        _aliyun_arms_alert_type	告警类型。
        _aliyun_arms_alert_rule_id	告警规则对应的ID。
        _aliyun_arms_region_id	地域ID。
        _aliyun_arms_userid	用户ID。
        _aliyun_arms_involvedObject_type	关联对象子类型，如ManagedKubernetes，ServerlessKubernetes。
        _aliyun_arms_involvedObject_kind	关联对象分类，如app，cluster。
        _aliyun_arms_involvedObject_id	关联对象ID。
        _aliyun_arms_involvedObject_name	关联对象名称。

   8. 单击确定。
   报警配置页面显示创建的报警。