Elasticsearch:Gunakan plugin throttling kluster aliyun-qos

Mode pratinjau sebelum penerapan

Sebelum menerapkan throttling, gunakan watchMode untuk memvalidasi konfigurasi Anda secara aman. Saat watchMode diatur ke true, plugin mencatat jumlah permintaan yang ditolak dalam metrik tanpa benar-benar menolak permintaan tersebut. Tinjau metrik untuk memastikan ambang batas sesuai, lalu beralih ke mode penerapan dengan mengatur watchMode ke false.

Sintaksis limiter

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
     ${action}.${limiter_type}:${threshold}
  },
  "tags": {
    ${tagName}:${tagValue}
  },
  "priority":0,
  "params":{
      "watchMode":true
  }
}

Parameter limiter

Referensi jenis limiter

Referensi nama tag

Batasi QPS untuk permintaan baca

Batasi jumlah permintaan pencarian yang diterima node klien per detik. Baik nama indeks eksak maupun pola wildcard didukung untuk nilai tag. Untuk Elasticsearch V7.10, gunakan kunci tag index; untuk versi lainnya, gunakan kunci tag index_patterns.

Elasticsearch V7.10 — batasi indeks tertentu:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search.qps": "1000"
  },
  "tags": {
    "index": "twitter"
  }
}

Elasticsearch V7.10 — batasi indeks dengan awalan nama:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search.qps": "1000"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Elasticsearch V7.10 — batasi setiap indeks secara individual (batas per indeks):

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search.qps": "1000"
  },
  "tags": {
    "index": "**"
  }
}

index:** menerapkan ambang batas pada setiap indeks secara terpisah. Misalnya, jika kluster memiliki indeks A, B, dan C, masing-masing dibatasi hingga 1.000 QPS secara independen.

Elasticsearch V7.10 — batasi total QPS di semua indeks:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search.qps": "1000"
  },
  "tags": {
    "index": "*"
  }
}

index:* menerapkan ambang batas pada QPS gabungan semua indeks. Anda juga dapat menghilangkan bidang tags untuk mencapai efek yang sama.

Versi lainnya — batasi indeks tertentu:

PUT _qos/_ratelimit/<limiterName>
{
  "search.index_patterns" : "twitter",
  "search.max_queries_per_sec" : 1000
}

Versi lainnya — batasi indeks dengan awalan nama:

PUT _qos/_ratelimit/<limiterName>
{
  "search.index_patterns" : "nginx-log-*",
  "search.max_queries_per_sec" : 1000
}

Versi lainnya — batasi total QPS di semua indeks:

PUT _qos/_ratelimit/<limiterName>
{
  "search.index_patterns" : "*",
  "search.max_queries_per_sec" : 1000
}

Beberapa aturan dapat aktif secara bersamaan. Permintaan akan dibatasi jika cocok dengan salah satu aturan.

Error pembatasan QPS

Jika QPS melebihi ambang batas yang dikonfigurasi, sistem mengembalikan error 429. Kurangi QPS di sisi klien untuk mengatasi error ini.

Untuk Elasticsearch V7.10:

{
  "error": {
    "root_cause": [
      {
        "type": "status_exception",
        "reason": "search blocked, limited by [<limiterName>][search.qps](<limiterId>) threshold:[x]"
      }
    ],
    "type": "status_exception",
    "reason": "search blocked, limited by [<limiterName>][search.qps](<limiterId>) threshold:[x]"
  },
  "status": 429
}

Untuk versi lainnya:

{
  "error": {
    "root_cause": [
      {
        "type": "rate_limited_exception",
        "reason": "request indices:data/read/search rejected, limited by [l1:t*:1.0]"
      }
    ],
    "type": "rate_limited_exception",
    "reason": "request indices:data/read/search rejected, limited by [l1:t*:1.0]"
  },
  "status": 429
}

Batasi TPS untuk permintaan tulis

Batasi jumlah permintaan tulis yang diterima node klien per detik. Baik nama indeks eksak maupun pola wildcard didukung untuk nilai tag. Untuk Elasticsearch V7.10, gunakan kunci tag index; untuk versi lainnya, gunakan kunci tag index_patterns.

Elasticsearch V7.10:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "write.tps": "100000"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Pembatasan TPS tidak didukung untuk versi Elasticsearch lainnya.

Batasi throughput tulis bulk (total per detik)

Batasi total byte yang ditulis per detik di semua permintaan bulk ke node klien. Untuk informasi lebih lanjut tentang permintaan bulk, lihat Bulk API. Baik nama indeks eksak maupun pola wildcard didukung untuk nilai tag. Untuk Elasticsearch V7.10, gunakan kunci tag index; untuk versi lainnya, gunakan kunci tag index_patterns.

Elasticsearch V7.10:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "write.throughput": "100MB"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Versi lainnya:

PUT _qos/_ratelimit/<limiterName>
{
  "bulk.index_patterns": "nginx-log-*",
  "bulk.max_throughput_in_bytes" : 104857600
}

Beberapa aturan dapat aktif secara bersamaan. Permintaan akan dibatasi jika cocok dengan salah satu aturan.

Batasi ukuran tulis bulk per permintaan

Batasi byte maksimum yang ditulis dalam satu permintaan bulk ke node klien. Untuk informasi lebih lanjut tentang permintaan bulk, lihat Bulk API. Baik nama indeks eksak maupun pola wildcard didukung untuk nilai tag. Untuk Elasticsearch V7.10, gunakan kunci tag index; untuk versi lainnya, gunakan kunci tag index_patterns.

Elasticsearch V7.10:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "write.max_size_per_request": "1000"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Versi lainnya:

PUT _qos/_ratelimit/<limiterName>
{
  "bulk.index_patterns": "nginx-log-*",
  "bulk.max_request_size_in_bytes" : 1000
}

Beberapa aturan dapat aktif secara bersamaan. Permintaan akan dibatasi jika cocok dengan salah satu aturan.

Error pembatasan ukuran tulis bulk

Jika satu permintaan bulk melebihi ambang batas ukuran yang dikonfigurasi, sistem akan menolaknya.

Untuk Elasticsearch V7.10 (HTTP 400):

{
  "error" : {
    "root_cause" : [
      {
        "type" : "status_exception",
        "reason" : "write_size blocked, limited by [<limiterName>][write.max_size_per_request](<limiterId>) threshold:[x] try acquire [x]"
      }
    ],
    "type" : "status_exception",
    "reason" : "write_size blocked, limited by [<limiterName>][write.max_size_per_request](<limiterId>) threshold:[x] try acquire [x]"
  },
  "status" : 400
}

Untuk versi lainnya (HTTP 413):

{
  "error": {
    "root_cause": [
      {
        "type": "rate_limited_exception",
        "reason": "request indices:data/write/bulk rejected, limited by [b2:ByteSizePreSeconds:992.0]"
      }
    ],
    "type": "rate_limited_exception",
    "reason": "request indices:data/write/bulk rejected, limited by [b2:ByteSizePreSeconds:992.0]"
  },
  "status": 413
}

Kurangi jumlah byte dalam setiap permintaan bulk untuk mengatasi error ini.

Batasi kueri shard konkuren

Batasi jumlah thread konkuren yang digunakan untuk mengkueri jumlah shard utama atau replika guna mengurangi beban kluster. Baik nama indeks eksak maupun pola wildcard didukung untuk nilai tag. Untuk Elasticsearch V7.10, gunakan kunci tag index; untuk versi lainnya, gunakan kunci tag index_patterns.

Elasticsearch V7.10:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search_shards.concurrent_count": "10"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Konfigurasi ini tidak didukung untuk versi Elasticsearch lainnya.

Konfigurasi beberapa aturan throttle dalam satu limiter

Terapkan beberapa aturan throttling ke satu limiter dalam satu permintaan.

Elasticsearch V7.10:

PUT /_qos/limiter/<limiterName>
{
  "limiters": {
    "search.qps": "1000",
    "write.tps": "100000",
    "write.throughput": "1000000",
    "write.max_size_per_request": "1000",
    "search_shards.concurrent_count": "10"
  },
  "tags": {
    "index": "nginx-log-*"
  }
}

Beberapa aturan dapat aktif secara bersamaan. Permintaan akan dibatasi jika cocok dengan salah satu aturan.