Topik ini menyajikan ambang batas kapasitas dan referensi kinerja permintaan per detik (QPS) untuk berbagai spesifikasi instans API Gateway cloud-native guna membantu Anda memilih spesifikasi yang paling sesuai dengan kebutuhan.
Ambang batas kapasitas
Berikut adalah ambang batas kapasitas untuk berbagai spesifikasi gateway. Saat metrik kapasitas gateway berada di bawah tingkat alert, Anda mendapatkan perlindungan Service-Level Agreement (SLA) penuh. Untuk layanan inti, pertahankan metrik kapasitas gateway di bawah tingkat aman guna menjaga stabilitas sistem.
-
Tingkat aman: Sistem gateway mempertahankan throughput tinggi dan kinerja latensi rendah, bahkan jika lalu lintas meningkat hingga dua kali lipat.
-
Tingkat alert: Jika penggunaan melebihi tingkat ini, latensi gateway dapat meningkat dan risiko ketidakstabilan mungkin muncul selama lonjakan lalu lintas.
-
Spesifikasi apigw.dev.x1 dideploy pada node tunggal dan tidak menyediakan perlindungan SLA. Gunakan spesifikasi ini hanya untuk skenario pengujian. Untuk layanan online, gunakan spesifikasi gateway yang dideploy pada multiple node.
-
Perlindungan SLA tidak mencakup anomali permintaan yang disebabkan oleh penggunaan CPU atau memory gateway yang melebihi ambang batas. Gateway menyediakan alert untuk kondisi tersebut. Anda harus memantau beban dan alert gateway secara tepat waktu.
|
Spesifikasi gateway |
Koneksi klien |
Koneksi baru HTTPS per detik |
Penggunaan CPU |
Penggunaan Memori |
||||
|
Tingkat aman |
Tingkat Peringatan |
Tingkat aman |
Tingkat alert |
Tingkat aman |
Tingkat Peringatan |
Tingkat aman |
Tingkat Peringatan |
|
|
apigw.dev.x1 |
12000 |
24000 |
400 |
800 |
30% |
60% |
75% |
75% |
|
apigw.small.x1 |
24000 |
48000 |
800 |
1600 |
30% |
60% |
75% |
75% |
|
apigw.small.x2 |
48000 |
96000 |
1600 |
3200 |
30% |
60% |
75% |
75% |
|
apigw.small.x4 |
96000 |
192000 |
3200 |
6400 |
30% |
60% |
75% |
75% |
|
apigw.medium.x1 |
192000 |
384000 |
6400 |
12800 |
30% |
60% |
75% |
75% |
|
apigw.medium.x2 |
384000 |
768000 |
12800 |
25600 |
30% |
60% |
75% |
75% |
|
apigw.medium.x3 |
576000 |
1152000 |
19200 |
38400 |
30% |
60% |
75% |
75% |
|
apigw.large.x1 |
768000 |
1536000 |
25600 |
51200 |
30% |
60% |
75% |
75% |
|
apigw.large.x2 |
1536000 |
3072000 |
51200 |
102400 |
30% |
60% |
75% |
75% |
|
apigw.large.x3 |
2304000 |
4608000 |
76800 |
153600 |
30% |
60% |
75% |
75% |
|
apigw.large.x4 |
3072000 |
6144000 |
102400 |
204800 |
30% |
60% |
75% |
75% |
Referensi kinerja QPS
Throughput QPS gateway dipengaruhi oleh berbagai faktor, seperti ukuran respons serta apakah HTTPS atau gzip diaktifkan. Tabel berikut menyajikan nilai referensi QPS pesimistis (skenario terburuk) saat penggunaan CPU gateway berada pada 30%.
Koneksi HTTPS baru mengonsumsi sumber daya CPU yang signifikan. Untuk skenario bisnis yang melibatkan banyak koneksi bersamaan HTTPS instan, rujuk data koneksi singkat HTTPS dalam tabel berikut untuk mengevaluasi kapasitas gateway.
|
Spesifikasi gateway |
apigw.dev.x1 |
apigw.small.x1 |
apigw.small.x2 |
apigw.small.x4 |
apigw.medium.x1 |
apigw.medium.x2 |
apigw.medium.x3 |
apigw.large.x1 |
apigw.large.x2 |
apigw.large.x3 |
apigw.large.x4 |
|||
|
Jenis koneksi |
Ukuran respons (KByte) |
Apakah menggunakan HTTPS? |
Gunakan kompresi gzip? |
Referensi QPS pada tingkat CPU aman (30%) |
||||||||||
|
Koneksi singkat |
1 |
No |
No |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
|
Yes |
No |
500 |
1000 |
2000 |
4000 |
8700 |
17400 |
26100 |
34800 |
69600 |
104400 |
139200 |
||
|
Koneksi persisten |
1 |
No |
No |
2200 |
4400 |
8800 |
17600 |
35000 |
70000 |
105000 |
140000 |
280000 |
420000 |
560000 |
|
Yes |
No |
2000 |
4000 |
8000 |
16000 |
32000 |
64000 |
96000 |
128000 |
256000 |
384000 |
512000 |
||
|
Yes |
Yes |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
||
|
10 |
No |
No |
1800 |
3600 |
7200 |
14400 |
30000 |
60000 |
90000 |
120000 |
240000 |
360000 |
480000 |
|
|
Yes |
No |
1700 |
3400 |
6800 |
13600 |
28000 |
56000 |
84000 |
112000 |
224000 |
336000 |
448000 |
||
|
Yes |
Yes |
1000 |
2000 |
4000 |
8000 |
16000 |
32000 |
48000 |
64000 |
128000 |
192000 |
256000 |
||
Batas kuota
Kuota global
Kuota global bersifat independen dari spesifikasi instans gateway. Untuk menambah kuota, submit a ticket.
|
Item kuota |
Kuota |
|
Instans per wilayah |
100 |
|
Operasi API per API |
2000 |
Kuota spesifikasi instance
Kuota spesifikasi instans bergantung pada spesifikasi instans gateway. Jika kuota tidak memenuhi kebutuhan Anda meskipun telah melakukan upgrade ke spesifikasi yang lebih tinggi, Anda dapat submit a ticket untuk meminta peningkatan.
|
Dev |
Small |
Medium |
Large |
|
|
Nama domain yang dipublikasikan |
100 |
200 |
500 |
1000 |
|
Layanan terkait |
200 |
800 |
2000 |
4000 |
|
Node layanan |
400 |
1600 |
4000 |
8000 |
|
Total entri rute online (termasuk rute HTTP API, operasi REST API, rute Ingress) |
2500 |
5000 |
7500 |
10000 |
|
Sumber layanan K8s |
3 |
3 |
5 |
5 |
|
Plugin yang diinstal |
5 |
10 |
20 |
30 |
|
Plugin kustom yang diunggah |
10 |
20 |
50 |
80 |
Jumlah otorisasi consumer |
500 |
2000 |
6000 |
10000 |