従来型アプリケーションと AI アプリケーションの両方に対応した統合的なイングレス要件を満たすため、Alibaba Cloud は ALB Extensible Edition を提供しています。柔軟な サービスエクステンション を基盤として構築されたこのエディションは、ID 認証やコンテンツベースのルーティングなどのコアトラフィック管理機能を提供します。さらに、マルチモデルプロキシ、負荷認識ルーティング、トークンベースのレート制限などの AI ネイティブ機能を追加し、AI アプリケーションと従来型アプリケーションの両方に対応した統合的でインテリジェントなトラフィックゲートウェイを実現します。
利点
アプリケーション層の柔軟性:ALB Extensible Edition はアプリケーション層で動作し、ドメイン名と VIP による多層分散を提供して大規模なリクエストを処理します。トラフィック分散を通じてアプリケーションサービス機能のスケールアウトをサポートし、単一障害点を排除し、システムの可用性を向上させます。また、アベイラビリティーゾーンの組み合わせをカスタマイズし、ゾーン間で柔軟にスケールすることで、単一のアベイラビリティーゾーンにおけるリソースのボトルネックを回避できます。
高度なコンテンツベースのルーティング:ALB Extensible Edition は、パス、HTTP ヘッダーなどのさまざまな条件に基づいて特定のビジネストラフィックを識別し、トラフィックを異なるバックエンドサーバーに転送します。また、リダイレクト、リライト、カスタム HTTP ヘッダーなどの高度なアクションもサポートしています。
アプリケーション層コンテンツ認識:ALB Extensible Edition は詳細な解析をサポートし、リクエストボディのコンテンツに基づいてトラフィックを異なるバックエンドサービスに動的にルーティングできます。元のレイヤー 7 プロキシの上に「L7+」プロキシ機能を提供し、AI アプリケーションシナリオに広く適用できます。
柔軟なサービスエクステンション:ALB はサービスエクステンションをサポートしており、プラグインや外部サービス呼び出しを使用することで、AI アプリケーションなどのシナリオにおけるカスタムビジネス要件を満たすことができます。
セキュリティと信頼性:ALB Extensible Edition は、認証情報管理、組み込みの DDoS protection、Web Application Firewall (WAF) との統合などのセキュリティ機能をネイティブにサポートしています。また、エンドツーエンドの HTTPS 暗号化を提供し、TLS セキュリティポリシーや TLS 1.3 などの暗号化プロトコルをサポートし、暗号化に敏感なサービスに適しており、ゼロトラストセキュリティアーキテクチャの要件を満たします。
SSE ストリーミング:ALB Extensible Edition は SSE ストリーミングをサポートしています。大規模言語モデル (LLM) AI アプリケーションでは、SSE を使用して生成された推論結果をリアルタイムで返すことで、ユーザーエクスペリエンスを向上させることができます。
柔軟な課金:ALB Extensible Edition は、Elastic IP Address (EIP) と Internet Shared Bandwidth を通じてパブリックネットワーク機能を提供し、パブリックネットワーク使用量に対して柔軟な課金が可能です。また、ロードバランサーキャパシティーユニット (LCU) に基づく料金モデルを使用しており、トラフィックのピークが変動するワークロードに最適です。
ユースケース
アプリケーショントラフィックゲートウェイ:従来型 Web アプリケーションと AI アプリケーションに適し、トラフィック分散、認証、レート制限などの機能を提供します。
従来型アプリケーションと AI アプリケーションのワークロード:モデル認識ルーティングを使用して、特定のモデル要件に基づいてトラフィックを転送し、GPU 使用率を向上させ、低レイテンシーの推論を実現します。
統合マルチモデルプロキシ:モデル適応、インテリジェントスケジューリング、動的フェイルオーバーをサポートします。きめ細かい ID 認証を統合し、安全で柔軟性があり、高信頼性の AI インフラストラクチャを構築します。
ハイブリッドおよびマルチクラウドアプリケーションの高可用性デプロイメント:ハイブリッド接続を簡素化し、セキュリティを確保します。クロスクラウドネットワークのコアとして、データセンター、ブランチオフィス、マルチクラウドリソースに対して高性能なアプリケーション配信とセキュリティを提供します。
コンテナ Ingress ゲートウェイ:外部 HTTP(S) リクエストをクラスター内のコンテナサービスにルーティングします。ブルー/グリーンデプロイメント、A/B テスト、TLS ターミネーション、コンテンツベースのルーティングをサポートします。
高性能で安全なアプリケーション配信:自動スケーリング、高性能負荷分散を提供し、WAF、DDoS protection、Cloud Firewall などのセキュリティ製品と統合してアプリケーション配信を保護します。
インスタンスのパフォーマンス指標
ALB インスタンスは、指定された各 vSwitch から 3 つの IP アドレスを割り当てます。1 つはクライアント向けサービス用の VIP、2 つはバックエンド通信とヘルスチェック用のローカル IP アドレスです。
ALB のすべての柔軟性機能を利用できるようにするため、ALB インスタンスをデプロイする各 vSwitch で少なくとも 8 つの IP アドレスを予約することを推奨します。
パフォーマンス指標 | 自動スケーリング後の最大パフォーマンス |
最大 1 秒あたりのクエリ数 (QPS) | 1,000,000 |
最大新規接続数/秒 (CPS) | 200,000 |
最大同時接続数 | 5,000,000 |
最大プライベート帯域幅 | 25 Gbps |
デュアルゾーン ALB インスタンスのデフォルトのパブリック帯域幅は 400 Mbps です。実際のパブリック帯域幅は、インスタンスに関連付けられたすべての EIP の合計帯域幅によって決まります。
-
単一の リージョン 内において、単一の Alibaba Cloud アカウント配下のトラフィック課金 EIP の合計ピーク帯域幅は 5 Gbit/s を超えることはできません。詳細については、「従量課金」の帯域幅制限セクションをご参照ください。
-
より多くの帯域幅を確保するには、帯域幅パッケージを購入してください。詳細については、「帯域幅パッケージの作成と管理」をご参照ください。
コンポーネント
概念 | 説明 |
[インスタンス] | インスタンスは、トラフィックを異なるバックエンドサーバーに分散することでレイヤー 7 負荷分散を提供し、アプリケーションシステムのサービススループットをスケールします。単一のインスタンスは最大 1,000,000 QPS を処理できます。 |
[リスナー] | リスナーは ALB インスタンスの最小サービス単位です。リスナーにはプロトコルとポートを設定する必要があり、ALB インスタンスが処理するトラフィックのタイプ (ポート 80 の HTTP トラフィックなど) を指定します。各 ALB インスタンスには、トラフィックを処理および転送するために少なくとも 1 つのリスナーが必要です。デフォルトでは、各 ALB インスタンスに最大 50 個のリスナーを追加し、異なるビジネストラフィックを処理できます。 |
[転送ルール] | 転送ルールは、ALB インスタンスが 1 つ以上のサーバーグループ内のバックエンドサーバーにリクエストをルーティングする方法を決定します。ALB Extensible Edition は、ドメイン名、パス、HTTP ヘッダーなどの条件に基づくさまざまなルーティングルールをサポートしています。サービスエクステンションと関連付けると、リクエストボディの詳細な解析をサポートし、アプリケーション層コンテンツ認識スケジューリングが可能になります。 |
[サービス拡張] | ALB サービスエクステンションを使用すると、データ転送パスにカスタムロジックを挿入できます。プラグインメカニズムと外部サービス呼び出し (Callouts) を使用して、リクエスト処理の主要なノードで動的ルーティング、認証と認可、コンテンツリライト、AI コンテキスト認識などのビジネスロジックを実行できます。ALB Extensible Edition は、一般的なシナリオをカバーする組み込みコンポーネントライブラリを提供しており、アプリケーションコードを変更したり、追加のプロキシレイヤーをデプロイしたりする必要がありません。 |
[サーバーグループ] | サーバーグループは、ALB インスタンスによって分散されたリクエストを処理する複数のバックエンドサーバーを含む論理グループです。ALB では、サーバーグループは ALB インスタンスから独立しており、同じサーバーグループを異なる ALB インスタンスにアタッチできます。ALB Extensible Edition のサーバーグループは、サーバー (Elastic Compute Service (ECS)、Elastic Container Instance (ECI)、Elastic Network Interface (ENI))、IP、Function Compute、DNS ドメイン名、AI サービスのバックエンドタイプをサポートしています。 |
[ヘルスチェック] | ALB はヘルスチェックを使用して、バックエンドサーバーのサービス可用性を判断します。ALB はサーバーグループ内の正常でないサーバーを検出し、それらへのトラフィック分散を回避します。ALB は、プロトコル、ポート、さまざまなヘルスチェックしきい値など、さまざまなヘルスチェック設定をサポートしています。ALB は、異なるサーバーグループに迅速に適用できるヘルスチェックテンプレートも提供しています。 |
[認証情報管理] | ALB Extensible Edition の認証情報管理機能は、アウトバウンド ID 認証情報の一元的な作成と管理をサポートしており、これらは Key Management Service (KMS) を使用して暗号化および保存されます。バックエンドサービスを追加する際、作成した認証情報を直接参照できます。ALB は、リクエストを転送する際にこれらの認証情報を自動的に含めることで、ID 認証を完了します。 |
インスタンスタイプ
Alibaba Cloud は、インターネット向けと内部向けの ALB インスタンスを提供しています。ビジネスシナリオに基づいて、インターネット向けまたは内部向けの ALB インスタンスを設定できます。システムは、選択内容に基づいて Internet Shared Bandwidth と EIP を使用するかどうかを決定します。
概念 | 説明 |
VIP (仮想 IP アドレス) | ALB がトラフィックを分散するために使用する Virtual Private Cloud (VPC) 内のプライベート IP アドレスです。 |
EIP | EIP は、インターネット向け ALB インスタンスを作成する場合にのみ必要です。内部向け ALB インスタンスを作成する場合、EIP を設定する必要はありません。EIP は、ALB インスタンスがインターネット経由でサービスを提供するために使用する IP アドレスです。インターネット向け ALB インスタンスは複数の EIP を持つことができます。高可用性のため、インターネット向け ALB インスタンスには、異なるアベイラビリティーゾーンに少なくとも 2 つの EIP が必要です。 |
[共有帯域] | Internet Shared Bandwidth は、リージョンレベルの帯域幅共有と再利用を提供します。同じリージョン内の EIP を Internet Shared Bandwidth インスタンスに追加して、帯域幅を再利用し、パブリック帯域幅のコストを削減できます。 |
[ドメイン名] | インターネットまたはプライベートネットワーク経由で ALB インスタンスの EIP または VIP に解決できるドメイン名です。CNAME レコードを追加することで、ドメイン名を ALB インスタンスのドメイン名にマッピングします。詳細については、「ALB インスタンスの CNAME レコードの設定」をご参照ください。 |
ALB Extensible Edition の有効化
アクセス申請: ALB Extensible Edition の権限のリクエストを送信してください。 申請が承認されると、サービスが利用可能になります。
開始方法:Application Load Balancer コンソールにログオンし、ALB Extensible Edition インスタンスを作成および設定します。
ALB Extensible Edition はパブリックプレビュー中です。詳細を確認してアクセスを申請するには、「お知らせ」をご参照ください。
注意事項
ALB Extensible Edition インスタンスは、 33.0.0.0/8 および 22.0.0.0/16 IP アドレス範囲からのクライアントアクセスをサポートしていません。