Pour répondre aux exigences unifiées d'ingress des applications traditionnelles et basées sur l'IA, Alibaba Cloud propose l'édition extensible d'ALB. Fondée sur des extensions de service flexibles, cette édition offre des fonctionnalités essentielles de gestion du trafic, telles que l'authentification et le routage basé sur le contenu. Elle intègre également des capacités natives à l'IA, notamment la prise en charge multi-modèles, le routage conscient de la charge et la limitation du débit basée sur les jetons, créant ainsi une passerelle de trafic intelligente et intégrée pour les applications IA et traditionnelles.
Avantages
Élasticité au niveau applicatif : L'édition extensible d'ALB opère au niveau de la couche application. Elle fournit des noms de domaine et des adresses IP virtuelles (VIP) avec une distribution multiniveaux pour gérer des volumes de requêtes importants. Elle étend les capacités des services applicatifs via la répartition du trafic, élimine les points de défaillance uniques et améliore la disponibilité du système. Personnalisez les combinaisons de zones de disponibilité et mettez à l'échelle les ressources de manière élastique entre les zones pour éviter les goulots d'étranglement dans une seule zone de disponibilité.
Routage avancé basé sur le contenu : L'édition extensible d'ALB identifie le trafic métier spécifique selon diverses conditions, telles que le chemin, l'en-tête HTTP , puis achemine ce trafic vers différents serveurs backend. Elle prend également en charge des actions avancées comme les redirections, les réécritures et les en-têtes HTTP personnalisés.
Conscience du contenu au niveau applicatif : L'édition extensible d'ALB prend en charge l'analyse approfondie et peut router dynamiquement le trafic vers différents services backend en fonction du contenu du corps de la requête. Elle offre des capacités de proxy « L7+ » au-delà du proxy de couche 7 original, ce qui la rend particulièrement adaptée aux scénarios d'applications IA.
Extensions de service flexibles : ALB prend en charge les extensions de service, qui vous permettent d'utiliser des plug-ins et des appels à des services externes pour répondre à des exigences métier personnalisées, notamment dans les scénarios d'applications IA.
Sécurité et fiabilité : L'édition extensible d'ALB prend nativement en charge des fonctionnalités de sécurité telles que la gestion des informations d'identification, la protection DDoS intégrée et l'intégration avec WAF. Elle assure également un chiffrement HTTPS de bout en bout, prend en charge les politiques de sécurité TLS et les protocoles de chiffrement comme TLS 1.3, répondant ainsi aux exigences des services sensibles au chiffrement et aux architectures de sécurité Zero Trust.
Streaming SSE : L'édition extensible d'ALB prend en charge le streaming SSE. Dans les applications IA basées sur les grands modèles de langage (LLM), utilisez SSE pour renvoyer les résultats d'inférence générés en temps réel, améliorant ainsi l'expérience utilisateur.
Facturation flexible : L'édition extensible d'ALB fournit des capacités de réseau public via des EIP et une bande passante partagée Internet, permettant une facturation flexible de l'utilisation du réseau public. Elle utilise également un modèle de tarification basé sur les unités de capacité de l'équilibreur de charge (LCU), idéal pour les charges de travail dont les pics de trafic fluctuent.
Cas d'utilisation
Passerelle de trafic applicatif : Adaptée aux applications web traditionnelles et aux applications IA, offrant des fonctionnalités telles que la répartition du trafic, l'authentification et la limitation du débit.
Charges de travail pour applications traditionnelles et IA : Utilisez le routage conscient des modèles pour diriger le trafic en fonction des exigences spécifiques du modèle, améliorer l'utilisation des GPU et offrir une inférence à faible latence.
Proxy multi-modèle unifié : Prend en charge l'adaptation des modèles, la planification intelligente et le basculement dynamique. Il intègre une authentification fine des identités pour construire une infrastructure IA sécurisée, élastique et hautement fiable.
Déploiement haute disponibilité pour applications hybrides et multicloud : Simplifie les connexions hybrides et garantit la sécurité. En tant que cœur d'un réseau intercloud, il assure une livraison d'applications performante et sécurisée pour les centres de données, les succursales et les ressources multicloud.
Passerelle Ingress pour conteneurs : Achemine les requêtes HTTP(S) externes vers les services de conteneur au sein d'un cluster. Il prend en charge les déploiements blue-green, les tests A/B, la terminaison TLS et le routage basé sur le contenu.
Livraison d'applications sécurisée haute performance : Offre une mise à l'échelle automatique, un équilibrage de charge haute performance et s'intègre avec des produits de sécurité tels que WAF, la protection DDoS et Cloud Firewall pour protéger la livraison des applications.
Métriques de performance des instances
Une instance ALB alloue trois adresses IP depuis chaque vSwitch spécifié : une VIP pour les services orientés client et deux adresses IP locales pour la communication backend et les vérifications d'état.
Pour garantir la disponibilité de toutes les capacités élastiques d'ALB, nous vous recommandons de réserver au moins huit adresses IP dans chaque vSwitch où vous déployez une instance ALB.
|
Métrique de performance |
Performance maximale avec mise à l'échelle automatique |
|
Nombre maximal de requêtes par seconde (QPS) |
500 000 |
|
Nombre maximal de nouvelles connexions par seconde (CPS) |
200 000 |
|
Nombre maximal de connexions simultanées |
5 000 000 |
|
Bande passante privée maximale |
25 Gbit/s |
La bande passante publique par défaut pour une instance ALB à double zone est de 400 Mbit/s. La bande passante publique réelle est déterminée par la bande passante totale de tous les EIP associés à l'instance.
Au sein d'une seule région, la bande passante de pointe totale de tous les EIP facturés au transfert de données sous un seul compte Alibaba Cloud ne peut pas dépasser 5 Gbit/s. Pour plus d'informations, consultez la section sur les limites de bande passante dans Paiement à l'utilisation.
Si vous avez besoin de plus de bande passante, achetez une bande passante partagée Internet. Pour plus d'informations, consultez Créer et gérer des packages de bande passante.
Composants
|
Concept |
Description |
|
Instances |
Une instance fournit un équilibrage de charge de couche 7 en distribuant le trafic vers différents serveurs backend pour augmenter le débit de service de votre système applicatif. Une seule instance peut gérer jusqu'à 1 000 000 QPS. |
|
Listener |
Un listener est la plus petite unité de service d'une instance ALB. Configurez un protocole et un port pour un listener afin de spécifier le type de trafic traité par l'instance ALB, tel que le trafic HTTP sur le port 80. Chaque instance ALB doit disposer d'au moins un listener pour traiter et transférer le trafic. Par défaut, vous pouvez ajouter jusqu'à 50 listeners à chaque instance ALB pour gérer différents trafics métier. |
|
Forwarding Rules |
Une règle de transfert détermine comment une instance ALB achemine les requêtes vers les serveurs backend dans un ou plusieurs groupes de serveurs. L'édition extensible d'ALB prend en charge diverses règles de routage basées sur des conditions telles que le nom de domaine, le chemin et l'en-tête HTTP. Lorsqu'elle est associée à des extensions de service, elle prend en charge l'analyse approfondie des corps de requête pour permettre une planification consciente du contenu au niveau applicatif. |
|
Service Extensions |
Les extensions de service ALB vous permettent d'injecter une logique personnalisée dans le chemin de transfert des données. Grâce à un mécanisme de plug-in et à des appels de service externes (Callouts), exécutez une logique métier telle que le routage dynamique, l'authentification et l'autorisation, la réécriture de contenu et la conscience contextuelle IA aux nœuds clés du traitement des requêtes. L'édition extensible d'ALB fournit une bibliothèque de composants intégrée couvrant les scénarios courants, éliminant ainsi le besoin de modifier le code de l'application ou de déployer une couche de proxy supplémentaire. |
|
Server Groups |
Un groupe de serveurs est un groupe logique contenant plusieurs serveurs backend pour traiter les requêtes distribuées par une instance ALB. Dans ALB, un groupe de serveurs est indépendant de l'instance ALB, et vous pouvez attacher le même groupe de serveurs à différentes instances ALB. Les groupes de serveurs de l'édition extensible d'ALB prennent en charge les types de backend suivants : serveur (ECS, ECI et interface réseau élastique), IP, Function Compute, nom de domaine DNS et service IA. |
|
Health Check |
ALB utilise des vérifications d'état pour déterminer la disponibilité des services des serveurs backend. ALB détecte les serveurs non opérationnels dans un groupe de serveurs et évite de leur distribuer du trafic. ALB prend en charge diverses configurations de vérification d'état, telles que le protocole, le port et divers seuils de vérification. ALB fournit également des modèles de vérification d'état qui peuvent être appliqués rapidement à différents groupes de serveurs. |
|
Credential Management |
La fonctionnalité Credential Management de l'édition extensible d'ALB prend en charge la création et la gestion centralisées des informations d'identification sortantes, qui sont chiffrées et stockées à l'aide de KMS. Lors de l'ajout d'un service backend, référencez directement les informations d'identification créées. ALB inclut automatiquement ces informations d'identification lors du transfert des requêtes pour compléter l'authentification. |
Types d'instances
Alibaba Cloud propose des instances ALB orientées Internet et internes. Configurez une instance ALB orientée Internet ou interne en fonction de votre scénario métier. Le système détermine s'il faut utiliser une bande passante partagée Internet et des EIP en fonction de votre sélection.
|
Concept |
Description |
|
VIP (adresse IP virtuelle) |
Une adresse IP privée dans un Virtual Private Cloud (VPC) qu'ALB utilise pour distribuer le trafic. |
|
EIP |
Les EIP sont requis uniquement lorsque vous créez une instance ALB orientée Internet. Vous n'avez pas besoin de configurer d'EIP lorsque vous créez une instance ALB interne. Un EIP est l'adresse IP qu'une instance ALB utilise pour fournir des services sur Internet. Une instance ALB orientée Internet peut avoir plusieurs EIP. Pour une haute disponibilité, une instance ALB orientée Internet doit avoir au moins deux EIP dans différentes zones de disponibilité. |
|
Internet Shared Bandwidth |
Internet Shared Bandwidth offre un partage et une réutilisation de la bande passante au niveau de la région. Ajoutez des EIP de la même région à une instance Internet Shared Bandwidth pour réutiliser la bande passante et réduire les coûts de bande passante publique. |
|
Zone Name |
Un nom de domaine qui peut être résolu sur Internet ou sur un réseau privé vers l'EIP ou la VIP d'une instance ALB. Mappez votre nom de domaine au nom de domaine de l'instance ALB en ajoutant un enregistrement CNAME. Pour plus d'informations, consultez Configurer un enregistrement CNAME pour une instance ALB. |
Activer l'édition extensible d'ALB
Demander l'accès : Soumettez une demande de privilège pour l'édition extensible d'ALB. Le service devient disponible une fois votre demande approuvée.
Commencer : Connectez-vous à la console Application Load Balancer pour créer et configurer une instance de l'édition extensible d'ALB.
L'édition extensible d'ALB est en aperçu public. Pour en savoir plus et demander l'accès, consultez l'annonce .
Notes d'utilisation
Les instances de l'édition extensible d'ALB ne prennent pas en charge l'accès client depuis les plages d'adresses IP 33.0.0.0/8 et 22.0.0.0/16.