容器计算服务 ACS：开启Virtual Node监控指标分片采集

阿里云 Prometheus

1. 进入目标集群，左侧导航栏选择运维管理 > Prometheus 监控。

2. 在Prometheus 监控页面单击右上角 采集配置 跳转至对应的阿里云 Prometheus 实例接入管理页面。

3. 在接入管理页面选择探针页签，单击metric-agent项右侧操作列的Job 列表。

   1. 若存在 cs/virtual-kubelet-metrics-with-metrics-shard 采集 Job，且该 Job 各采集 Endpoint 的最近采集数据量（LastScrapeSeries）为有效值，则已成功采集 Virtual Node 分片后的监控数据。

   2. 若不存在 cs/virtual-kubelet-metrics-with-metrics-shard 采集 Job，请在阿里云 Prometheus 实例的探针页签右侧操作列的 > 升级，将探针采集版本升级至 v2.1.12 及以上。

自建 Prometheus

自建 Prometheus 可选择以下任一方式配置分片采集。

配置方式一：Prometheus Scrape Config

在 Prometheus 配置文件的 scrape_configs 中新增如下采集配置：

scrape_configs:
- job_name: virtual-kubelet-metrics-with-metrics-shard
  honor_labels: true
  honor_timestamps: true
  scrape_interval: 30s
  scrape_timeout: 10s
  metrics_path: /metrics/cadvisor
  scheme: https
  authorization:
    credentials_file: /var/run/secrets/kubernetes.io/serviceaccount/token
  tls_config:
    ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
    insecure_skip_verify: true
  relabel_configs:
  - source_labels:
    - __meta_kubernetes_service_label_k8s_app
    separator: ;
    regex: virtual-kubelet-metrics
    replacement: $1
    action: keep
  - source_labels:
    - __meta_kubernetes_endpoint_port_name
    separator: ;
    regex: https-metrics
    replacement: $1
    action: keep
  - source_labels:
    - __meta_kubernetes_endpoint_address_target_kind
    - __meta_kubernetes_endpoint_address_target_name
    separator: ;
    regex: Node;(.*)
    target_label: node
    replacement: ${1}
    action: replace
  - source_labels:
    - __meta_kubernetes_endpoint_address_target_kind
    - __meta_kubernetes_endpoint_address_target_name
    separator: ;
    regex: Pod;(.*)
    target_label: pod
    replacement: ${1}
    action: replace
  - source_labels:
    - __meta_kubernetes_namespace
    separator: ;
    regex: (.*)
    target_label: namespace
    replacement: $1
    action: replace
  - source_labels:
    - __meta_kubernetes_service_name
    separator: ;
    regex: (.*)
    target_label: service
    replacement: $1
    action: replace
  - source_labels:
    - __meta_kubernetes_pod_name
    separator: ;
    regex: (.*)
    target_label: pod
    replacement: $1
    action: replace
  - source_labels:
    - __meta_kubernetes_pod_container_name
    separator: ;
    regex: (.*)
    target_label: container
    replacement: $1
    action: replace
  - source_labels:
    - __meta_kubernetes_service_name
    separator: ;
    regex: (.*)
    target_label: job
    replacement: ${1}
    action: replace
  - source_labels:
    - __meta_kubernetes_service_label_k8s_app
    separator: ;
    regex: (.+)
    target_label: job
    replacement: ${1}
    action: replace
  - separator: ;
    regex: (.*)
    target_label: endpoint
    replacement: https-metrics
    action: replace
  - source_labels:
    - __metrics_path__
    separator: ;
    regex: (.*)
    target_label: metrics_path
    replacement: $1
    action: replace
  - source_labels:
    - __meta_kubernetes_endpoints_name
    separator: ;
    regex: virtual-kubelet-metrics-(.+)-(.+)
    target_label: __metrics_path__
    replacement: /metrics/cadvisor/${1}
    action: replace
  kubernetes_sd_configs:
  - role: endpoints
    namespaces:
      names:
      - kube-system

配置方式二：Prometheus Operator ServiceMonitor

请根据实际 Prometheus Operator 对 ServiceMonitor 的 namespace、label 等要求调整后应用，参考配置如下：

apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
  labels:
    app: virtual-kubelet-metrics
    # 增加该 label 用于 operator 自动加入配置
    release: ack-prometheus-operator
  name: ack-prometheus-operator-virtual-kubelet
  namespace: monitoring
spec:
  endpoints:
    - bearerTokenFile: /var/run/secrets/kubernetes.io/serviceaccount/token
      honorLabels: true
      # 请求方式
      scheme: https
      # 选择定义在 endpoint 中的端口名称
      port: https-metrics
      tlsConfig:
        caFile: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
        insecureSkipVerify: true
      # 增加的标签,用于和原生保持一致
      path: /metrics/cadvisor
      relabelings:
        - action: replace
          sourceLabels:
            - __metrics_path__
          targetLabel: metrics_path
        # 将 Service 中的 annotation 修改为最终生效的 Metrics Path
        - sourceLabels:
            - __meta_kubernetes_endpoints_name
          action: replace
          targetLabel: __metrics_path__
          regex: "virtual-kubelet-metrics-(.+)-(.+)"
          replacement: "/metrics/cadvisor/${1}"
  jobLabel: k8s-app
  namespaceSelector:
    matchNames:
      - kube-system
  selector:
    matchLabels:
      k8s-app: virtual-kubelet-metrics

阿里云 Prometheus

1. 应用对应的 Prometheus 采集规则后，进入Prometheus控制台-接入管理页面，然后选择进入目标环境。

2. 在目标环境页切换到自监控页签。

   若对应的 Target（形如 cs/virtual-kubelet-metrics-with-metrics-shard 或 ack-prometheus-operator-virtual-kubelet）状态显示为 N/N up，则表明分片采集目标已生效。

3. 同时，原 /metrics/cadvisor 接口不再返回 cAdvisor 容器监控数据（仅保留 kubelet_node_name 等少量 kubelet 基础指标）。

   执行以下命令验证原接口返回内容：

   export node=<NODE-NAME>
   kubectl get --raw "/api/v1/nodes/$node/proxy/metrics/cadvisor" | tail

   预期输出：

   # HELP kubelet_node_name The node's name. The count is always 1.
   # TYPE kubelet_node_name gauge
   kubelet_node_name 1

自建 Prometheus

1. 通过Service暴露Prometheus的标准API，当前以ack-prometheus-operator的Service：ack-prometheus-operator-prometheus为例。

2. 在浏览器中访问ServiceIP:9090，需为Service开通公网访问，查看Prometheus控制台。

3. 在页面上方菜单栏，单击Status > Targets，查看所有采集任务。

   若对应的 Target（形如 cs/virtual-kubelet-metrics-with-metrics-shard 或 ack-prometheus-operator-virtual-kubelet）状态显示为 N/N up，则表明分片采集目标已生效。