Apa itu kolam koneksi arah keluar?
Data ditransmisikan secara serial melalui koneksi persisten menggunakan HTTP. Ini berarti pengirim harus menunggu permintaan sebelumnya diakui sebelum mengirim permintaan berikutnya. Kolam koneksi arah keluar menyediakan sumber daya koneksi bagi instance API Gateway untuk mengakses layanan backend.
Misalnya, jika Anda membeli instance khusus tipe api.s1.small dengan ukuran kolam koneksi arah keluar sebesar 1.200 dan layanan backend Anda memerlukan satu detik untuk merespons setiap permintaan, jumlah maksimum permintaan arah keluar per detik (RPS) yang didukung oleh instance tersebut adalah 1.200. Jika instance Anda mengirim lebih dari 1.200 permintaan ke layanan backend dalam satu detik, permintaan tambahan akan menunggu dalam antrian karena kolam koneksi sepenuhnya terisi. Jika permintaan gagal mendapatkan sumber daya koneksi dalam 500 milidetik, kesalahan 'Connection lease request time out Backend service connect failed' akan dikembalikan. Untuk mencegah kesalahan ini, Anda dapat mengonfigurasi Simple Log Service untuk mengirimkan peringatan sebelum sumber daya koneksi habis, sehingga Anda dapat menangani insufisiensi sumber daya lebih awal.
Prasyarat
Log API Gateway telah dicatat. Untuk informasi lebih lanjut, lihat Gunakan Layanan Log untuk Mengelola Log Panggilan API.
Konfigurasikan aturan peringatan untuk kolam koneksi
Simple Log Service memungkinkan Anda menentukan frekuensi pemeriksaan dan kondisi pemicu untuk mengonfigurasi aturan peringatan, serta memicu peringatan ketika kondisi terpenuhi. Bagian ini menjelaskan cara mengonfigurasi aturan peringatan untuk kolam koneksi arah keluar API Gateway.
Jika kolam koneksi sepenuhnya terisi, API Gateway mengembalikan kesalahan 'Backend service connect failed Connection lease request time out' kepada klien untuk permintaan tambahan. Kesalahan ini dicatat oleh bidang errorMessage dalam log. Anda dapat menggunakan pesan kesalahan ini untuk mengonfigurasi aturan peringatan. Untuk informasi lebih lanjut, lihat Konfigurasikan Aturan Pemantauan Peringatan di Layanan Log.
Pada Langkah 2 dari topik yang dirujuk, Anda dapat mengonfigurasi aturan peringatan berdasarkan ID instance, ID kesalahan, dan pesan kesalahan. Contoh kode berikut memberikan pernyataan kueri dan analisis.
instanceId: apigateway-cn-XXXXX and errorId : D504CO and '`Connection lease request time out`'
Tangani insufisiensi sumber daya koneksi
Tingkatkan instance API Gateway.
Jika instance tersebut adalah instance dibagi atau serverless, Anda dapat membeli instance khusus dan memigrasikan grup API Anda ke instance baru. Untuk informasi lebih lanjut, lihat Migrasikan Grup API Antar Instance.
Jika instance tersebut adalah instance khusus, Anda dapat meningkatkan spesifikasi instance di Konsol API Gateway. Untuk informasi lebih lanjut, lihat Ubah Spesifikasi Instance.
Periksa waktu respons yang diperlukan oleh layanan backend. Data deret waktu ini (satuan: ms) dicatat oleh bidang serviceLatency dalam log. Ini mengacu pada waktu antara saat API Gateway mengirim permintaan ke layanan backend hingga saat API Gateway menerima paket terakhir dari respons layanan backend. Respons lambat berkontribusi pada insufisiensi sumber daya koneksi arah keluar. Oleh karena itu, kami merekomendasikan agar Anda juga mengonfigurasi aturan peringatan untuk nilai serviceLatency. Jika nilai serviceLatency tetap besar, insufisiensi sumber daya koneksi rentan terjadi. Dalam hal ini, Anda dapat mengoptimalkan respons backend untuk mencegah masalah.