全部产品

人工智能平台 PAI：附录：专属网关容量说明

更新时间：Jul 01, 2026

专属网关的容量阈值和QPS性能因规格而异。选型时需同时满足两个指标——若某一规格下其中一个指标不满足要求，请提升规格。

容量阈值

以下为不同网关规格下，面向单个网关节点的容量阈值。当网关容量指标处于警戒水位以下时，可以得到完整的SLA保障。对于核心业务，建议将网关容量指标控制在安全水位以下，从而获得更好的稳定性。

说明

安全水位：能够在突发流量增长至双倍的情况下，依然确保网关系统维持高吞吐量和低延迟性能。
警戒水位：当水位达到警戒线以上时，网关的延迟可能会增加，并且在突发流量下可能存在稳定性风险。
过载水位：当网关当前的水位超过过载阈值后，网关会拒绝接受新建立的连接，以保证网关自身的稳定性。
对于单节点部署的网关无法提供 SLA 保障，请确保业务部署了多个网关节点。当部署多个节点时，安全水位和警戒水位均是按照每个节点的规格进行累加计算。
对于超过网关CPU/内存的警戒水位后引起的请求异常，网关无法提供SLA保障。网关提供了CPU/内存的警戒水位告警，请及时关注网关的负载水位与告警。

网关规格		2 Core 4 GiB	4 Core 8 GiB	8 Core 16 GiB	16 Core 32 GiB
节点数		1	1	1	1
客户端连接数	安全水位	12000	24000	48000	96000
	警戒水位	24000	48000	96000	192000
	过载水位	40000	80000	160000	320000
HTTPS每秒新建连接	安全水位	400	800	1600	3200
	警戒水位	800	1600	3200	6400
	过载水位	-	-	-	-
网络带宽（Gbit/s）	安全水位	1	2	4	8
	警戒水位	1	2	4	8
	过载水位	-	-	-	-
CPU使用率	安全水位	30%	30%	30%	30%
	警戒水位	60%	60%	60%	60%
	过载水位	90%	90%	90%	90%
内存使用率	安全水位	75%	75%	75%	75%
	警戒水位	75%	75%	75%	75%
	过载水位	90%	90%	90%	90%

QPS性能参考

网关QPS吞吐受多种因素影响，如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位下的QPS悲观值（最差情况下）参考。

说明

HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景，请参考下表中HTTPS短连接的数据评估网关容量。
目前gzip功能仅供白名单用户使用。如有需要，请提交工单申请开通。

网关规格				2 Core 4 GiB		4 Core 8 GiB		8 Core 16 GiB		16 Core 32 GiB
节点数				3	5	3	5	3	5	3	5
连接类型	应答字节数（KBytes）	是否使用HTTPS	是否使用gzip	CPU处于安全水位（30%）的QPS参考
短连接	1	否	否	5200	8700	10500	17500	21000	35000	42000	70000
短连接	1	是	否	1600	2700	3200	5500	6500	11000	13000	22000
长连接	1	否	否	6500	10800	13000	21700	26000	43500	52000	87000
		是	否	6000	10000	12000	20000	24000	40000	48000	80000
		是	是	5200	8700	10500	17500	21000	35000	42000	70000
	10	否	否	5600	9300	11200	18700	22500	37500	45000	75000
		是	否	5300	9000	10700	18000	21500	36000	43000	72000
		是	是	3100	5200	6200	10500	12500	21000	25000	42000