Microservices Engine：Kelola layanan MSE Nacos menggunakan gateway cloud-native

Tidak ada kebijakan routing yang dikonfigurasi

1. Masuk ke Konsol MSE.

2. Di bilah navigasi atas, pilih wilayah.

3. Di panel navigasi kiri, pilih Cloud-native Gateway > Gateways. Pada halaman Gateways, klik ID gateway.

4. Pada tab Gateway Ingress pada halaman Overview, lihat ingress IP address dari gateway.

   

   Catatan

   Alamat IP ingress dari gateway cloud-native adalah alamat IP dari instance SLB yang terkait dengan gateway. Anda dapat mengganti instance SLB dengan instance SLB yang dikelola sendiri. Untuk informasi lebih lanjut, lihat Kelola instance SLB yang ditentukan sebagai Ingress.

5. Jalankan perintah berikut untuk mengirim permintaan pengujian:

   curl -I http://8.136.104.xx/echo-rest/hello

   Catatan

   Perintah di atas berisi layanan Demo dari sumber layanan Nacos. Anda dapat mengganti URL dengan URL layanan backend Anda.

   Hasil berikut dikembalikan:

   HTTP/1.1 200 OK
   Content-Type: text/plain;charset=UTF-8
   Content-Length: 5
   Date: Thu, 29 Aug 2024 08:21:47 GMT
   req-cost-time: 9
   req-arrive-time: 1724919707979
   resp-start-time: 1724919707988
   x-envoy-upstream-service-time: 8
   server: istio-envoy

Kebijakan throttling dikonfigurasi

Dalam skenario akses konkurensi tinggi, jika tidak ada kebijakan throttling yang tepat yang dikonfigurasi untuk aplikasi Anda, layanan backend mungkin menjadi kelebihan beban karena permintaan berlebih. Ini memengaruhi kecepatan respons layanan atau bahkan menyebabkan layanan crash. Throttling memastikan bahwa jumlah permintaan berada dalam rentang yang dapat ditangani oleh sistem. Anda dapat mengonfigurasi kebijakan throttling untuk gateway cloud-native. Untuk informasi lebih lanjut tentang kebijakan routing, lihat Kebijakan routing.

1. Masuk ke Konsol MSE. Di bilah navigasi atas, pilih wilayah.

2. Di panel navigasi kiri, pilih Cloud-native Gateway > Gateways. Pada halaman Gateways, klik ID gateway.

3. Di panel navigasi kiri, klik Routes.

4. Temukan aturan routing yang ingin Anda modifikasi dan klik Policies di kolom Actions.

5. Di bagian Policies pada halaman yang muncul, klik tab Throttling.

   Kebijakan throttling digunakan untuk memantau permintaan per detik (QPS) dari suatu rute. Jika QPS mencapai ambang batas yang ditentukan, lalu lintas segera diblokir. Ini mencegah kerusakan layanan backend akibat lonjakan lalu lintas dan memastikan ketersediaan tinggi layanan backend.

   1. Pada tab Throttling, klik Flow control rules.

   2. Pada tab Throttling Rules, konfigurasikan parameter berikut.

      

      Parameter	Deskripsi	Contoh
      Overall QPS Threshold	Masukkan nilai untuk Overall QPS Threshold.	1
      Web Fallback Behavior	Pilih Returns the specified content atau Jump to the specified page untuk Web Fallback Behavior.	Mengembalikan konten yang ditentukan
      HTTP status code	Masukkan kode status HTTP. Nilai defaultnya adalah 429.	429
      Returned Content-Type	Pilih Plain text atau JSON untuk Returned Content-Type.	Teks biasa
      HTTP Text	Masukkan teks yang dikembalikan.	springcloud-demo flow limit
      Whether to open	Jika Anda menyalakan sakelar ini, kebijakan throttling yang dikonfigurasi akan berlaku.

   3. Klik New atau Save untuk membuat atau memperbarui aturan. Dalam pesan yang muncul, klik OK.

6. Jalankan skrip berikut untuk mengirim permintaan pengujian:

   Windows

   @echo off
   
   set "localUrl= http://8.136.104.xxx/echo-rest/hello"
   
   :loop
   curl -i -s %localUrl%
   
   goto loop

   Linux

   #!/bin/bash
   
   URL="http://8.136.104.xxx/echo-rest/hello"
   
   while true; do
       curl -i -s $URL
   done

   Hasil berikut dikembalikan. Setelah Anda mengaktifkan kebijakan throttling, kode status HTTP 429 dikembalikan.

   helloHTTP/1.1 429 Too Many Requests
   content-type: text/plain; charset=UTF-8
   content-length: 26
   date: Thu, 29 Aug 2024 08:54:46 GMT
   server: istio-envoy
   
   springcloud-demo flow limit HTTP/1.1 200 OK
   Content-Type: text/plain;charset=UTF-8
   Content-Length: 5
   Date: Thu, 29 Aug 2024 08:54:46 GMT
   req-cost-time: 8
   req-arrive-time: 1724921686961
   resp-start-time: 1724921686970
   x-envoy-upstream-service-time: 7
   server: istio-envoy