Cloud Native API Gateway capacity thresholds, QPS, and quota limits - API Gateway

専用インスタンスとサーバーレスインスタンスの両方を対象に、クラウドネイティブ API Gateway の容量のしきい値、QPS ベンチマーク、およびクォータ制限について説明します。

説明

このドキュメントでは、クラウドネイティブ API Gateway の 専用インスタンス と サーバーレスインスタンス における容量しきい値、QPS ベンチマーク、およびクォータ制限について説明します。

重要

サーバーレスインスタンスは現在、パブリックベータです。記載されているサーバーレスのクォータはベータ期間中の値であり、商用リリース時に変更される場合があります。

インスタンスタイプ

インスタンスタイプ	リソースモデル	容量管理	ユースケース
専用インスタンス	ユーザーごとの専用物理リソース	仕様を選択します。仕様が高いほど、容量も大きくなります。	高頻度で安定したワークロード、コンプライアンス監査、詳細なカスタマイズ
サーバーレスインスタンス	プラットフォームが管理するマルチテナント共有プール	プラットフォームで統一された容量上限。仕様の選択は不要です。	変動するトラフィック、小〜中規模、迅速なオンボーディング

容量しきい値 (専有インスタンス)

次の表に、ゲートウェイ仕様ごとの容量しきい値を示します。メトリクスが警告しきい値を下回っている場合、SLA の完全な保証が適用されます。クリティカルなワークロードの場合は、メトリクスを安全しきい値未満に維持してください。

安全しきい値：トラフィックが 2 倍になっても、ゲートウェイは高いスループットと低いレイテンシーを維持します。
警告しきい値：このレベルを超えると、トラフィックの急増時にレイテンシーの増加や安定性リスクが発生する可能性があります。
apigw.dev.x1 は、SLA 保証のないシングルノードデプロイメントであり、テスト専用です。本番環境では、マルチノード仕様を使用する必要があります。
CPU またはメモリが警告しきい値を超えた場合のリクエストの失敗は、SLA 保証範囲には含まれません。ゲートウェイはこれらのしきい値に対するアラームを提供します。ゲートウェイの負荷とトリガーされたアラームを注意深く監視してください。

ゲートウェイ仕様	クライアント接続数		新規 HTTPS 接続数		CPU 使用率		メモリ使用量
ゲートウェイ仕様	安全しきい値	警告しきい値	安全しきい値	警告しきい値	安全しきい値	警告しきい値	安全しきい値	警告しきい値
`apigw.dev.x1`	12,000	24,000	400	800	30%	60%	60%	75%
`apigw.small.x1`	24,000	48,000	800	1,600	30%	60%	60%	75%
`apigw.small.x2`	48,000	96,000	1,600	3,200	30%	60%	60%	75%
`apigw.small.x4`	96,000	192,000	3,200	6,400	30%	60%	60%	75%
`apigw.medium.x1`	192,000	384,000	6,400	12,800	30%	60%	60%	75%
`apigw.medium.x2`	384,000	768,000	12,800	25,600	30%	60%	60%	75%
`apigw.medium.x3`	576,000	1,152,000	19,200	38,400	30%	60%	60%	75%
`apigw.large.x1`	768,000	1,536,000	25,600	51,200	30%	60%	60%	75%
`apigw.large.x2`	1,536,000	3,072,000	51,200	102,400	30%	60%	60%	75%
`apigw.large.x3`	2,304,000	4,608,000	76,800	153,600	30%	60%	60%	75%
`apigw.large.x4`	3,072,000	6,144,000	102,400	204,800	30%	60%	60%	75%

説明

サーバーレスインスタンスはプラットフォーム管理のリソースを使用し、仕様の選択は不要です。テナントごとのしきい値については、「サーバーレスインスタンスの容量しきい値」セクションをご参照ください。

QPS パフォーマンス (専有インスタンス)

ゲートウェイの QPS スループットは、レスポンスサイズ、HTTPS 使用量、gzip 圧縮などの要因に左右されます。次の表は、CPU 30% (安全なしきい値) における保守的な QPS 値を示しています。

説明

HTTPS の新規接続は、大量の CPU リソースを消費します。バースト HTTPS シナリオの場合は、ショートコネクション + HTTPS のデータを参照して、ゲートウェイの容量を評価してください。

ショートコネクション

レスポンスサイズ	HTTPS	gzip	dev.x1	small.x1	small.x2	small.x4	medium.x1	medium.x2	medium.x3	large.x1	large.x2	large.x3	large.x4
1 KB	なし	なし	1700	3400	6800	13600	28000	56000	84000	112000	224000	336000	448000
1 KB	あり	なし	500	1000	2000	4000	8700	17400	26100	34800	69600	104400	139200

ロングコネクション

レスポンスサイズ	HTTPS	gzip	dev.x1	small.x1	small.x2	small.x4	medium.x1	medium.x2	medium.x3	large.x1	large.x2	large.x3	large.x4
1 KB	なし	なし	2200	4400	8800	17600	35000	70000	105000	140000	280000	420000	560000
1 KB	あり	なし	2000	4000	8000	16000	32000	64000	96000	128000	256000	384000	512000
1 KB	あり	あり	1700	3400	6800	13600	28000	56000	84000	112000	224000	336000	448000
10 KB	なし	なし	1800	3600	7200	14400	30000	60000	90000	120000	240000	360000	480000
10 KB	あり	なし	1700	3400	6800	13600	28000	56000	84000	112000	224000	336000	448000
10 KB	あり	あり	1000	2000	4000	8000	16000	32000	48000	64000	128000	192000	256000

クォータ制限

グローバルクォータ

グローバルクォータは、仕様に関係なく サーバーレスインスタンス と 専用インスタンス の両方に適用されます。クォータを引き上げるには、チケットを送信してください。

クォータ項目	クォータ
リージョンあたりのインスタンス数	100
リージョンあたりのコンシューマーグループ数 (最大)	1000
コンシューマーグループあたりのコンシューマー数	500
リージョンあたりのコンシューマー数 (最大)	100000

インスタンス固有のクォータ

次の表は、サーバーレスのテナントごとのクォータ と 11 種類の仕様における専用インスタンスのクォータ をまとめ、並べて比較できるようにしています。専用インスタンスは、仕様をアップグレードすることでスケールアップできます。最高仕様でも不足する場合は、クォータをさらに引き上げるためにチケットを送信してください。コンシューマー数 と コンシューマー認可ルール は別々のクォータ項目であり、それぞれ個別にカウントおよび検証されます。

	サーバーレス	DEV	Small			Medium			Large
クォータ項目	サーバーレス	dev.x1	small.x1	small.x2	small.x4	medium.x1	medium.x2	medium.x3	large.x1	large.x2	large.x3	large.x4
公開済みドメイン	100	100	200	300	400	500	600	800	1000	1200	1400	1600
サービス	200	200	800	1200	1600	2000	2500	3000	4000	4500	5000	6000
オンラインルートの合計 (HTTP API ルート、REST API エンドポイント、Ingress ルート)	2500	2500	5000	6000	7000	7500	8000	9000	10000	11000	12000	13000
コンシューマー数	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
コンシューマー認可ルール	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
コンシューマークォータールール	500	500	2000	4000	6000	8000	12000	16000	20000	27500	35000	42500
K8s サービスソース	1	3	3	3	3	5	5	5	5	5	5	5
インストール済みプラグイン	5	5	10	10	10	20	20	20	30	30	30	30
アップロード済みのカスタムプラグイン	サポートされていません	10	20	20	20	50	50	50	80	80	80	80

コンシューマークォータの計算

コンシューマー数 と コンシューマー認可ルール は、2 つの別々のクォータ項目であり、それぞれ独立してカウントおよび検証されます。

コンシューマー数 と コンシューマー認可ルール の制限は、上の表で仕様ごとに別々に示しています。その他の値については、インスタンス仕様のクォータ表をご参照ください。

コンシューマー数：現在のゲートウェイで、直接認可およびコンシューマーグループ認可で参照されている一意のコンシューマーの数です。複数のルールまたはグループで参照されているコンシューマーは 1 回だけカウントされます。空のコンシューマーグループでは、コンシューマー数は 0 として扱われます。

コンシューマー認可ルール：現在のゲートウェイに保持されているコンシューマー認可ルールの数です。直接認可ルールは 1 つにつき 1 としてカウントされます。また、コンシューマーグループ認可ルールも、グループメンバー数やグループが空かどうかに関係なく、1 つにつき 1 としてカウントされます。

各使用量は、対応するクォータ制限とそれぞれ独立して比較されます。つまり、コンシューマー数はコンシューマー数の制限を超えることはできず、コンシューマー認可ルール数はコンシューマー認可ルールの制限を超えることはできません。ホワイトリストまたは特別な設定により、適用される制限を引き上げることはできますが、これらのカウントルールは変更されません。

サーバーレスインスタンスのキャパシティしきい値

説明

サーバーレスインスタンスは、プラットフォームマネージドのマルチテナント共有プールを使用しており、仕様は選択できません。すべてのテナントは、統一されたキャパシティ境界を共有します。以下は、パブリックベータ期間中のテナントごとのしきい値です。

テナントごとのキャパシティしきい値

メトリクス	ベータクォータ	説明
テナントあたりの QPS	10000	この制限に近づいた場合は、専用インスタンスへのアップグレードをご検討ください。この制限を超える必要がある場合は、チケットを送信してください。
毎秒の新規接続数	2000	プラットフォームが適用するテナントごとの接続レート制限
総接続数	100000	ゲートウェイイングレスにおけるテナントごとのアクティブ接続数の制限

エラスティックキャパシティ

プラットフォームマネージドの伸縮性：サーバーレスのコンピューティングリソースは、プラットフォームによってオートスケールされます。テナントが手動でスケールアップまたはスケールダウンする必要はありません。
テナントレベルのアイソレーション：各テナントには専用のイングレスがあり、トラフィックは他のテナントから厳密に分離されています。
制限超過時の処理：QPS または接続数がクォータを超えると、プラットフォームはスロットリングレスポンスを返します。より高いクォータが必要な場合は、専用インスタンスにアップグレードするか、チケットを送信してください。

クォータの引き上げとインスタンスのアップグレード

シナリオ	推奨事項
専用インスタンスのクォータが不足している場合	上位仕様にアップグレードしてください。それでも不足する場合は、チケットを送信してください。
サーバーレスインスタンスの QPS が 10000 に近づいている場合	専用インスタンスへのアップグレードをご検討ください。
サーバーレスインスタンスでより高い SLA が必要な場合	専用インスタンスにアップグレードしてください。