Tous les produits
Search
Centre de documentation

Platform For AI:Invoke a service with an associated NLB

Dernière mise à jour :Aug 09, 2026

Associer un service Elastic Algorithm Service (EAS) à une instance Network Load Balancer (NLB) vous permet de gérer et d'orchestrer le service de manière centralisée. Cette configuration exploite les puissantes fonctionnalités de contrôle d'accès du NLB, ce qui la rend idéale pour les services à fort trafic nécessitant un équilibrage de charge.

Important

L'association NLB ne prend pas actuellement en charge le routage intelligent des LLM.

Facturation

L'utilisation d'un Network Load Balancer (NLB) engendre des coûts. Pour plus d'informations, consultez les Règles de facturation du NLB.

Fonctionnement

  • Après avoir configuré un VPC pour un service EAS, le système attribue une adresse IP issue du VPC à chaque pod du service.

  • Lorsque vous associez une instance NLB située dans le même VPC au service EAS, le système ajoute un écouteur TCP à l'instance NLB. Cet écouteur transfère directement les requêtes reçues sur son port vers le service EAS.

Procédure

Configuration via la console

Sur la page de configuration du déploiement, dans la section Network Information, configurez le VPC et activez l'option Associate NLB.

  1. Configurer le réseau VPC : Pour associer une instance NLB, vous devez configurer un VPC, un vSwitch et un groupe de sécurité pour le service EAS. Si ces ressources n'existent pas encore, consultez les rubriques Créer et gérer un VPC et Gérer les groupes de sécurité.

    • VPC : Si vous associez une instance NLB existante, vous devez utiliser le même VPC que celui de l'instance NLB.

    • vSwitch : Vérifiez que le vSwitch dispose de suffisamment d'adresses IP disponibles pour le nombre de réplicas.

    • Security group :

      • Assurez-vous que le groupe de sécurité n'est pas utilisé par d'autres produits cloud.

      • Les règles entrantes du groupe de sécurité doivent autoriser le trafic provenant de vos plages d'adresses IP et ports approuvés vers l'instance EAS sur le port 8080.

  2. Activez l'option Associate NLB et sélectionnez une Configuration Method :

    • Use System-Created NLB Instance : Le système crée automatiquement une instance NLB dans votre compte. Son cycle de vie est lié au déploiement du service actuel.

    • Associate Existing NLB Instance : Sélectionnez une instance NLB existante. Le service EAS doit être configuré avec le même VPC que l'instance NLB. Pour créer une instance, consultez la rubrique Créer une instance NLB.

  3. Network Selection :

    • Cette option n'est disponible que si vous sélectionnez Use System-Created NLB Instance.

    • Vous pouvez sélectionner Internet ou Intranet. Si vous choisissez les deux, deux instances NLB sont créées.

  4. Port Number : Port d'écoute du NLB. Ce paramètre est facultatif. La valeur doit être comprise entre 1 et 65535.

    • Si vous spécifiez un port, vous pouvez accéder au service EAS à l'adresse NLB domain name:listener port.

      Important
      • N'utilisez pas le port 8080. Le moteur EAS écoute ce port par défaut. Son utilisation comme port d'écoute provoquerait un conflit de ports et empêcherait le démarrage correct du service.

      • Pour éviter les conflits, utilisez un port qui n'est pas déjà utilisé par un autre écouteur NLB.

    • Si vous laissez ce champ vide, le système active la fonctionnalité « tous les ports » pour l'écouteur NLB. Vous pouvez alors accéder au service EAS à l'adresse NLB domain name:service port.

Configuration via JSON

Les paramètres JSON suivants sont requis pour associer une instance NLB. Pour plus de détails sur la configuration de chaque paramètre, consultez la section Configuration via la console.

Paramètre

Description

cloud

networking

vpc_id

Spécifie l'ID du VPC, l'ID du vSwitch et l'ID du groupe de sécurité pour le service EAS.

vswitch_id

security_group_id

networking

nlb

id

Spécifie la méthode d'association du NLB. Valeurs possibles :

  • default : Le système crée une nouvelle instance NLB et l'associe.

  • ID d'une instance NLB existante : Associe l'instance NLB spécifiée.

net_type

Type de réseau. Ce paramètre est requis uniquement si vous utilisez une instance NLB créée par le système. Valeurs possibles :

  • internet : réseau public.

  • intranet : VPC.

listener_port

Port d'écoute du NLB.

Exemple de configuration :

{
  "cloud": {
    "computing": {
     .... // Deployment resources
    },
    "networking": {
      "security_group_id": "sg-bp1brugkivv2im5738q9",
      "vpc_id": "vpc-bp1uepgqtarjwghnfy9po",
      "vswitch_id": "vsw-bp1glkxasep5isqpvbj0t,vsw-bp1atvza5gzz0hedw2eci"
    }
  },
  "metadata": {
   .... // Other configuration information
  },
  "networking": {
    "nlb": [
      {
        "id": "default",
        "listener_port": 80,
        "net_type": "internet"
      }
    ]
  }
}

Vérifier la connectivité réseau

Une fois le service déployé, vérifiez que vous pouvez vous connecter à l'adresse NLB domain name:listener port :

  1. Connectez-vous à la console NLB. Recherchez le nom de domaine de votre instance NLB cible dans la colonne DNS Name.image

  2. Exécutez la commande telnet pour vérifier la connectivité.

    Le port d'écoute correspond au port que vous avez spécifié lors de l'association de l'instance NLB pendant le déploiement. Si vous n'en avez pas spécifié, utilisez le port de service du service EAS. Le nom de domaine est le nom DNS obtenu à l'étape précédente.

    • NLB Internet : Exécutez la commande depuis votre terminal local.

    • NLB Intranet : Exécutez la commande depuis un terminal situé dans le VPC.

    Une connexion réussie se présente comme suit :image

  3. Appelez le service EAS en utilisant son nom de domaine NLB et son port. L'exemple suivant illustre une commande type et son résultat. Votre commande et votre résultat peuvent varier.

    # Example command  
    curl http://:/path/to/api -H 'Authorization:' -d '[{"What is the capital of Zhejiang?"}]'
    # Example result
    {"response":"The capital of Zhejiang is Hangzhou.","history":[["[{\"What is the capital of Zhejiang?\"}]","The capital of Zhejiang is Hangzhou."]]}
    

    La partie : remplace le nom de domaine de la passerelle dans le point de terminaison du service. Par exemple, si le point de terminaison du service d'origine est http://123456***.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/your-service-name, l'URL de requête correspondante utilisant le NLB est http://:/api/predict/your-service-name.