全部产品
Search
文档中心

Platform For AI:Lampiran: Kapasitas dan QPS dari gateway khusus

更新时间:Jun 22, 2025

Topik ini menjelaskan ambang kapasitas dan tolok ukur performa permintaan per detik (QPS) untuk gateway khusus dengan berbagai spesifikasi. Kami menyarankan Anda memilih spesifikasi gateway berdasarkan ambang kapasitas dan parameter performa QPS. Dalam banyak kasus, jika suatu spesifikasi memenuhi persyaratan satu parameter, spesifikasi tersebut juga dapat memenuhi persyaratan parameter lainnya. Namun, dalam beberapa skenario, suatu spesifikasi mungkin hanya memenuhi salah satu parameter, sehingga Anda perlu meningkatkan spesifikasi agar kedua parameter sesuai dengan kebutuhan bisnis Anda.

Ambang kapasitas

Tabel berikut menggambarkan ambang kapasitas untuk satu node gateway berdasarkan spesifikasi gateway. Jika nilai metrik kapasitas gateway lebih kecil dari ambang peringatan, persyaratan Service-Level Agreement (SLA) Anda dapat sepenuhnya terpenuhi. Untuk bisnis utama Anda, kami sarankan agar nilai metrik kapasitas gateway dipertahankan di bawah ambang keamanan guna memastikan stabilitas sistem.

null
  • Ambang keamanan: Ambang keamanan memastikan bahwa gateway tetap memiliki throughput tinggi dan latensi rendah meskipun lalu lintas digandakan.

  • Ambang peringatan: Jika penggunaan mencapai ambang peringatan, latensi gateway mungkin meningkat, dan lonjakan lalu lintas dapat menyebabkan risiko stabilitas.

  • Ambang beban berlebih: Jika penggunaan saat ini gateway melebihi ambang beban berlebih, gateway akan menolak koneksi baru untuk meningkatkan stabilitasnya.

  • Jika hanya satu node yang diterapkan untuk gateway Anda, tujuan SLA Anda mungkin tidak tercapai. Pastikan setidaknya dua node diterapkan untuk gateway Anda. Jika dua atau lebih node diterapkan, ambang keamanan dan ambang peringatan dihitung berdasarkan spesifikasi masing-masing node.

Spesifikasi gateway

2 core dan 4 GiB memori

4 core dan 8 GiB memori

8 core dan 16 GiB memori

16 core dan 32 GiB memori

Jumlah node

1

1

1

1

Jumlah koneksi klien

Ambang keamanan

12.000

24.000

48.000

96.000

Ambang peringatan

24.000

48.000

96.000

192.000

Ambang beban berlebih

40000

80000

160000

320000

Jumlah koneksi HTTPS baru yang dibuat per detik

Ambang keamanan

400

800

1.600

3.200

Ambang peringatan

800

1.600

3.200

6.400

Ambang beban berlebih

-

-

-

-

Bandwidth jaringan (Gbit/s)

Ambang keamanan

1

2

4

8

Ambang peringatan

1

2

4

8

Ambang beban berlebih

-

-

-

-

Penggunaan CPU

Ambang keamanan

30%

30%

30%

30%

Ambang peringatan

60%

60%

60%

60%

Ambang beban berlebih

90%

90%

90%

90%

Penggunaan memori

Ambang keamanan

75%

75%

75%

75%

Ambang peringatan

75%

75%

75%

75%

Ambang beban berlebih

90%

90%

90%

90%

Performa QPS

Throughput QPS sebuah gateway dipengaruhi oleh berbagai faktor, seperti ukuran respons, dukungan HTTPS, dan kompresi GZIP. Tabel berikut mencantumkan nilai pesimistis QPS dalam kasus terburuk ketika utilisasi CPU gateway kurang dari 30%.

null
  • Membuat koneksi HTTPS baru memerlukan banyak sumber daya CPU. Dalam skenario dengan volume instan koneksi HTTPS bersamaan yang tinggi, Anda dapat mengevaluasi kapasitas gateway berdasarkan baris Jumlah koneksi singkat dari tabel berikut.

  • Fitur kompresi GZIP eksklusif untuk pengguna dalam daftar putih. Jika Anda ingin menggunakan fitur ini, ajukan tiket.

Spesifikasi gateway

2 core dan 4 GiB memori

4 core dan 8 GiB memori

8 core dan 16 GiB memori

16 core dan 32 GiB memori

Jumlah node

3

5

3

5

3

5

3

5

Jenis koneksi

Ukuran respons (KBytes)

Dukungan HTTPS

Kompresi GZIP

Nilai QPS ketika utilisasi CPU kurang dari 30%

Jumlah koneksi singkat

1

Tidak

Tidak

5.200

8.700

10.500

17.500

21.000

35.000

42.000

70.000

Ya

Tidak

1.600

2.700

3.200

5.500

6.500

11.000

13.000

22.000

Jumlah koneksi persisten

1

Tidak

Tidak

6.500

10.800

13.000

21.700

26.000

43.500

52.000

87.000

Ya

Tidak

6.000

10.000

12.000

20.000

24.000

40.000

48.000

80.000

Ya

Ya

5.200

8.700

10.500

17.500

21.000

35.000

42.000

70.000

10

Tidak

Tidak

5.600

9.300

11.200

18.700

22.500

37.500

45.000

75.000

Ya

Tidak

5.300

9.000

10.700

18.000

21.500

36.000

43.000

72.000

Ya

Ya

3.100

5.200

6.200

10.500

12.500

21.000

25.000

42.000