對於雲原生API Gateway執行個體,本文提供不同規格的容量閾值以及QPS效能參考,可以協助您更加準確地按需選擇規格。
容量閾值
以下為不同網關規格下的容量閾值。當網關容量指標處於警戒水位以下時,可以得到完整的SLA保障。對於核心業務,建議將網關容量指標控制在安全水位以下,從而獲得更好的穩定性。
安全水位:能夠在突發流量增長至雙倍的情況下,依然確保網關係統維持高輸送量和低延遲效能。
警戒水位:當水位達到警戒線以上時,網關的延遲可能會增加,並且在突發流量下可能存在穩定性風險。
apigw.dev.x1為單節點部署的網關規格,無法提供SLA保障,僅限測試情境使用。請確保線上業務使用部署了多個節點的網關規格。
對於超過網關CPU/記憶體的警戒水位後引起的請求異常,網關無法提供SLA保障。網關提供了CPU/記憶體的警戒水位警示,請及時關注網關的負載水位與警示。
網關規格 | 用戶端串連數 | HTTPS每秒建立串連 | CPU使用率 | 記憶體使用量率 | ||||
安全水位 | 警戒水位 | 安全水位 | 警戒水位 | 安全水位 | 警戒水位 | 安全水位 | 警戒水位 | |
apigw.dev.x1 | 12000 | 24000 | 400 | 800 | 30% | 60% | 75% | 75% |
apigw.small.x1 | 24000 | 48000 | 800 | 1600 | 30% | 60% | 75% | 75% |
apigw.small.x2 | 48000 | 96000 | 1600 | 3200 | 30% | 60% | 75% | 75% |
apigw.small.x4 | 96000 | 192000 | 3200 | 6400 | 30% | 60% | 75% | 75% |
apigw.medium.x1 | 192000 | 384000 | 6400 | 12800 | 30% | 60% | 75% | 75% |
apigw.medium.x2 | 384000 | 768000 | 12800 | 25600 | 30% | 60% | 75% | 75% |
apigw.medium.x3 | 576000 | 1152000 | 19200 | 38400 | 30% | 60% | 75% | 75% |
apigw.large.x1 | 768000 | 1536000 | 25600 | 51200 | 30% | 60% | 75% | 75% |
apigw.large.x2 | 1536000 | 3072000 | 51200 | 102400 | 30% | 60% | 75% | 75% |
apigw.large.x3 | 2304000 | 4608000 | 76800 | 153600 | 30% | 60% | 75% | 75% |
apigw.large.x4 | 3072000 | 6144000 | 102400 | 204800 | 30% | 60% | 75% | 75% |
QPS效能參考
網關QPS吞吐受多種因素影響,如應答大小、是否開啟HTTPS、是否開啟gzip等。下表是網關處於30%CPU水位的QPS悲觀值(最差情況下)參考。
HTTPS建立串連會佔用較多CPU資源。對於瞬時大量HTTPS並發串連的業務情境,請參考下表中HTTPS短串連的資料評估網關容量。
網關規格 | apigw.dev.x1 | apigw.small.x1 | apigw.small.x2 | apigw.small.x4 | apigw.medium.x1 | apigw.medium.x2 | apigw.medium.x3 | apigw.large.x1 | apigw.large.x2 | apigw.large.x3 | apigw.large.x4 | |||
連線類型 | 應答位元組數(KBytes) | 是否使用HTTPS | 是否使用gzip | CPU處於安全水位(30%)的QPS參考 | ||||||||||
短串連 | 1 | 否 | 否 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 |
是 | 否 | 500 | 1000 | 2000 | 4000 | 8700 | 17400 | 26100 | 34800 | 69600 | 104400 | 139200 | ||
長串連 | 1 | 否 | 否 | 2200 | 4400 | 8800 | 17600 | 35000 | 70000 | 105000 | 140000 | 280000 | 420000 | 560000 |
是 | 否 | 2000 | 4000 | 8000 | 16000 | 32000 | 64000 | 96000 | 128000 | 256000 | 384000 | 512000 | ||
是 | 是 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 | ||
10 | 否 | 否 | 1800 | 3600 | 7200 | 14400 | 30000 | 60000 | 90000 | 120000 | 240000 | 360000 | 480000 | |
是 | 否 | 1700 | 3400 | 6800 | 13600 | 28000 | 56000 | 84000 | 112000 | 224000 | 336000 | 448000 | ||
是 | 是 | 1000 | 2000 | 4000 | 8000 | 16000 | 32000 | 48000 | 64000 | 128000 | 192000 | 256000 | ||
配額限制
全域配額
全域配額與網關執行個體規格無關,如需提升配額,請提交工單申請。
預設配額 | 配額上限 | |
單Region執行個體數量 | 50 | 100 |
單Region總介面數量 | 10000 | 20000 |
單API的介面數 | 1000 | 2000 |
執行個體規格配額
執行個體規格配額與網關執行個體規格相關,若升級至高規格但配額依然無法滿足需求,可通過提交工單申請進一步提升配額。
Dev & Small | Medium & Large | |||
預設配額 | 配額上限 | 預設配額 | 配額上限 | |
發布網域名稱數 | 50 | 100 | 200 | 500 |
關聯服務數 | 100 | 200 | 300 | 500 |
路由總數 | 200 | 500 | 1000 | 2000 |
線上API介面總數 | 1000 | 2000 | 3000 | 5000 |
K8s服務來源數 | 2 | 3 | 3 | 5 |
關聯環境數 | 5 | 10 | 15 | 20 |
Ingress 使用情境資源配額
Ingress 使用情境資源配額與網關執行個體規格相關,建議相關資源不要超過對應規格配額,否則可能會產生穩定性問題。
配額限制與規格相關,僅可通過變更規格或新增網關叢集的方式提升配額,同規格下進行擴容不會增加配額。
Dev | Small | Medium | Large | |
網域名稱 | 500 | 1000 | 2500 | 7500 |
服務 | 1000 | 2000 | 4000 | 10000 |
路由 | 1000 | 2000 | 4000 | 10000 |
Ingress | 1500 | 1000 | 2500 | 7500 |
Endpoint數 | 2500 | 5000 | 10000 | 25000 |