Alibaba Cloud Service Mesh：Gunakan ASM untuk membangun sistem terdistribusi dengan kemampuan toleransi kesalahan

Pemrosesan timeout

Cara kerjanya

Ketika klien mengirimkan permintaan ke layanan upstream, layanan tersebut mungkin tidak merespons. Anda dapat mengatur periode timeout. Jika layanan upstream tidak merespons dalam periode timeout, klien akan menganggap permintaan gagal dan tidak lagi menunggu respons.

Setelah periode timeout diatur, aplikasi akan menerima kesalahan jika layanan backend tidak merespons dalam waktu yang ditentukan. Aplikasi kemudian dapat mengambil tindakan fallback yang sesuai. Pengaturan timeout menentukan waktu tunggu klien untuk respons layanan, namun tidak memengaruhi perilaku pemrosesan layanan. Dengan demikian, timeout tidak berarti bahwa operasi yang diminta telah gagal.

Solusi

ASM memungkinkan Anda mengonfigurasi kebijakan timeout untuk rute dalam layanan virtual guna menentukan periode timeout. Jika proxy sidecar tidak menerima respons dalam periode timeout, permintaan dianggap gagal. Setelah pengaturan timeout diterapkan pada rute, pengaturan tersebut berlaku untuk semua permintaan yang menggunakan rute tersebut.

apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: httpbin
spec:
  hosts:
  - 'httpbin'
  http:
  - route:
    - destination:
        host: httpbin
    timeout: 5s

timeout: menentukan periode timeout. Jika layanan yang diminta tidak merespons dalam periode timeout yang ditentukan, kesalahan dikembalikan, dan klien tidak lagi menunggu respons.

Mekanisme retry

Cara kerjanya

Solusi

ASM memungkinkan Anda membuat layanan virtual untuk mendefinisikan kebijakan retry permintaan HTTP. Dalam contoh ini, layanan virtual dibuat untuk mendefinisikan kebijakan retry berikut: Ketika layanan dalam instance ASM meminta aplikasi httpbin, layanan tersebut akan mengulangi permintaan hingga maksimal tiga kali jika aplikasi httpbin tidak merespons atau layanan gagal membangun koneksi ke aplikasi httpbin. Periode timeout untuk setiap permintaan adalah 5 detik.

apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: httpbin
spec:
  hosts:
  - 'httpbin'
  http:
  - route:
    - destination:
        host: httpbin
    retries:
      attempts: 3
      perTryTimeout: 5s
        retryOn: connect-failure,reset

Anda dapat mengonfigurasi bidang berikut dalam struktur retries untuk menyesuaikan perilaku retry proxy sidecar untuk permintaan.

Konfigurasikan kebijakan retry default untuk permintaan HTTP

1. Masuk ke konsol ASM. Di panel navigasi kiri, pilih Service Mesh > Mesh Management.

2. Di halaman Mesh Management, klik nama instance ASM. Di panel navigasi kiri, pilih ASM Instance > Base Information.

3. Di bagian Config Info halaman Base Information, klik Edit di sebelah Default HTTP retry policy.

4. Di kotak dialog Default HTTP retry policy, konfigurasikan parameter terkait, dan klik OK.

   Parameter	Deskripsi
   Retries	Berkorespondensi dengan bidang attempts yang dijelaskan sebelumnya. Dalam kebijakan retry default untuk permintaan HTTP, bidang ini dapat diatur ke 0, yang menunjukkan bahwa retry permintaan HTTP dinonaktifkan secara default.
   Timeout	Berkorespondensi dengan bidang perTryTimeout yang dijelaskan sebelumnya.
   Retry On	Berkorespondensi dengan bidang retryOn yang dijelaskan sebelumnya.

Polanya Bulkhead

Cara kerjanya

Solusi

ASM memungkinkan Anda membuat aturan tujuan untuk mengonfigurasi pola bulkhead. Dalam contoh ini, aturan tujuan dibuat untuk mendefinisikan pola bulkhead berikut: Ketika layanan meminta aplikasi httpbin, jumlah maksimum koneksi bersamaan adalah 1, jumlah maksimum permintaan per koneksi adalah 1, dan jumlah maksimum retry permintaan adalah 1. Selain itu, layanan menerima kesalahan 503 jika tidak ada koneksi ke aplikasi httpbin yang dibangun dalam 10 detik.

apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
  name: httpbin
spec:
  host: httpbin
  trafficPolicy:
    connectionPool:
      http:
        http1MaxPendingRequests: 1
        maxRequestsPerConnection: 1
      tcp:
        connectTimeout: 10s
        maxConnections: 1

• http1MaxPendingRequests: menentukan jumlah maksimum retry permintaan.

• maxRequestsPerConnection: menentukan jumlah maksimum permintaan per koneksi.

• connectTimeout: menentukan periode timeout untuk setiap koneksi.

• maxConnections: menentukan jumlah maksimum koneksi bersamaan.

Pemutusan sirkuit

apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata:
  name: httpbin
spec:
  host: httpbin
  trafficPolicy:
    outlierDetection:
      consecutiveErrors: 3
      interval: 5s
      baseEjectionTime: 5m
      maxEjectionPercent: 100

Konfigurasikan pengumpulan metrik dan peringatan untuk pemutusan sirkuit tingkat host

Setelah Anda mengonfigurasi metrik terkait pemutusan sirkuit tingkat host, Anda dapat mengonfigurasi instance Prometheus untuk mengumpulkan metrik tersebut. Anda juga dapat mengonfigurasi aturan peringatan berdasarkan metrik kunci. Dengan cara ini, peringatan dihasilkan ketika pemutusan sirkuit terjadi. Bagian berikut menjelaskan cara mengonfigurasi pengumpulan metrik dan peringatan untuk pemutusan sirkuit tingkat host. Dalam contoh ini, Managed Service for Prometheus digunakan.

1. Dalam Managed Service for Prometheus, hubungkan kluster ACK pada bidang data ke komponen Alibaba Cloud ASM atau tingkatkan komponen Alibaba Cloud ASM ke versi terbaru. Ini memastikan bahwa metrik pemutusan sirkuit dapat dikumpulkan oleh Managed Service for Prometheus. Untuk informasi lebih lanjut tentang cara mengintegrasikan komponen ke ARMS, lihat Kelola komponen. (Jika Anda telah mengintegrasikan instance Prometheus yang dikelola sendiri untuk mengumpulkan metrik instance ASM dengan merujuk pada Pantau instance ASM menggunakan instance Prometheus yang dikelola sendiri, Anda tidak perlu melakukan langkah ini.)

2. Buat aturan peringatan untuk pemutusan sirkuit tingkat host. Untuk informasi lebih lanjut, lihat Gunakan pernyataan PromQL kustom untuk membuat aturan peringatan. Tabel berikut menjelaskan cara menentukan parameter kunci untuk mengonfigurasi aturan peringatan. Untuk informasi lebih lanjut tentang parameter lainnya, lihat dokumentasi sebelumnya.

   Parameter	Contoh	Deskripsi
   Pernyataan PromQL Kustom	(sum (envoy_cluster_outlier_detection_ejections_active) by (cluster_name, namespace)) > 0	Dalam contoh, metrik envoy_cluster_outlier_detection_ejections_active diquery untuk menentukan apakah host sedang dieject dalam kluster saat ini. Hasil query dikelompokkan berdasarkan namespace tempat layanan berada dan nama layanan.
   Pesan Peringatan	Pemutusan sirkuit tingkat host dipicu. Beberapa workload mengalami kesalahan berulang kali dan host-host tersebut dieject dari kolam load balancing. Namespace: {$labels.namespace}}, Layanan tempat ejection host terjadi: {{$labels.cluster_name}}. Jumlah host yang dieject: {{ $value }}	Informasi peringatan dalam contoh menunjukkan namespace layanan yang memicu pemutusan sirkuit, nama layanan, dan jumlah host yang dieject.