PAI-EAS propose plusieurs méthodes d'accès et deux protocoles de communication que vous pouvez combiner pour répondre à vos exigences en matière de réseau et de performances.
Guide des scénarios
Une fois le service déployé, il est invoqué par défaut via une passerelle partagée en HTTP, sans configuration supplémentaire. Utilisez le guide suivant pour trouver rapidement les informations dont vous avez besoin selon votre scénario :
Démarrage rapide : Si votre service est déjà déployé et que vous souhaitez l'invoquer via la passerelle partagée par défaut, consultez la rubrique Invoquer un service via une passerelle.
Utiliser d'autres méthodes d'accès : Si la passerelle partagée ne répond pas à vos besoins, découvrez d'autres options et leurs configurations, telles que la passerelle dédiée, la connexion directe VPC, Network Load Balancer (NLB) ou la découverte de services (Nacos). Pour plus d'informations, consultez la section Choisir une méthode d'accès ci-dessous.
Utiliser le protocole gRPC : Pour utiliser le protocole binaire gRPC afin de réduire la charge réseau et d'améliorer les performances d'inférence, consultez la rubrique Invoquer un service d'inférence PAI-EAS via gRPC.
Fonctionnement
Le flux de données général pour l'invocation d'un service PAI-EAS est le suivant :
Envoi de la requête par le client : Votre application envoie une requête d'inférence au point de terminaison du service PAI-EAS, qui peut être une passerelle ou une adresse de connexion directe.
Routage du point de terminaison : La requête est acheminée vers une instance de service backend via la méthode choisie : passerelle partagée, passerelle dédiée, connexion directe VPC, NLB ou Nacos. Si vous utilisez une passerelle, celle-ci gère l'équilibrage de charge et le routage. En cas de connexion directe, le client sélectionne l'instance cible.
Traitement par l'instance de service : Lorsque la requête atteint une instance de service PAI-EAS, le processus du service de modèle effectue le calcul d'inférence et renvoie le résultat sérialisé dans le format spécifié, tel que JSON ou Protobuf.
Réception de la réponse par le client : Après réception du résultat d'inférence, le client analyse les données et poursuit son traitement métier.
Méthodes d'accès
Sélectionnez une méthode d'accès adaptée à votre cas d'utilisation.
|
Scénario |
Méthode recommandée |
Chemin réseau |
Coût de configuration |
|
Validation rapide, services à faible trafic |
Internet ou VPC via une passerelle partagée |
Gratuit, configuration simple |
|
|
Sécurité élevée, stabilité élevée, trafic élevé |
Internet ou VPC via une passerelle dédiée |
Nécessite la création et la configuration d'une passerelle. Des frais supplémentaires s'appliquent. |
|
|
Scénarios à faible latence et haute concurrence où le client et le service PAI-EAS se trouvent dans le même VPC |
Connexion directe aux instances de service dans le même VPC, en contournant la passerelle |
Nécessite la configuration du VPC |
|
|
Trafic élevé avec équilibrage de charge |
Redirection via un NLB (le NLB et le service PAI-EAS doivent se trouver dans le même VPC) |
Nécessite la création ou l'association d'un NLB |
|
|
Système de gouvernance des services existant basé sur Nacos |
Inscription et découverte via Nacos (l'instance Nacos et le service PAI-EAS doivent se trouver dans le même VPC) |
Nécessite la fourniture d'une instance Nacos. |
Après avoir configuré un VPC, un vSwitch et un groupe de sécurité pour un service PAI-EAS :
Non soumis aux règles du groupe de sécurité : Lorsque vous accédez à PAI-EAS via une passerelle partagée ou une passerelle dédiée, les règles du groupe de sécurité ne s'appliquent pas. Pour les passerelles dédiées, vous pouvez configurer des listes d'autorisation pour contrôler l'accès.
Soumis aux règles du groupe de sécurité : Lorsque vous accédez à PAI-EAS via un NLB, Nacos ou une connexion directe VPC, tout le trafic, y compris le trafic sortant de PAI-EAS, est soumis aux règles du groupe de sécurité.
Protocoles de communication
PAI-EAS prend en charge deux protocoles de communication. Le protocole disponible dépend du type de service que vous déployez :
HTTP/JSON (par défaut) : Activé automatiquement après le déploiement. Convient à la plupart des cas d'utilisation.
gRPC : Protocole binaire haute performance pour les scénarios sensibles aux performances ou d'inférence en continu. Vous devez l'activer manuellement lors du déploiement.
FAQ
Accès interrégional et facturation
Q : Comment accéder à un service depuis une autre région via un réseau privé (en utilisant le point de terminaison VPC d'une passerelle) ?
Lorsque le service PAI-EAS et le client se trouvent dans différents VPC situés dans des régions distinctes, l'approche varie selon le type de passerelle :
Passerelle dédiée applicative : Il vous suffit d'établir la connectivité réseau entre VPC à l'aide d'un service tel que CEN ou une connexion d'appairage VPC. Pour plus d'informations, consultez la rubrique Interconnexion VPC.
Passerelle dédiée entièrement gérée : Outre l'établissement de la connectivité réseau entre VPC, vous devez associer le VPC du client à la passerelle dédiée. Pour plus d'informations, consultez la rubrique Accéder à une passerelle dédiée entièrement gérée depuis un autre VPC.
Q : Dois-je payer pour le trafic interrégional via une connexion VPC privée ? Quels sont les avantages par rapport à l'utilisation d'Internet ?
Oui. Lorsque vous établissez une connexion interrégionale via un réseau privé, des frais de trafic interrégional s'appliquent toujours. Le coût spécifique dépend de la méthode d'interconnexion utilisée. Une connexion VPC privée offre les avantages suivants par rapport à un accès via Internet :
Sécurité renforcée : Le service n'est pas exposé à Internet, ce qui réduit les risques de sécurité.
Vitesse supérieure et latence réduite : Le réseau privé offre une qualité de lien stable.
Coûts de trafic réduits : Les frais de trafic sur réseau privé sont généralement inférieurs aux frais de trafic Internet.
Pour les environnements de production, nous recommandons d'utiliser des points de terminaison VPC privés pour l'accès interrégional.
Invocation de service à service
Si votre application est déployée dans un conteneur PAI-EAS et doit invoquer d'autres services PAI-EAS, tenez compte des éléments suivants :
Exigences d'authentification : Toutes les requêtes doivent inclure un jeton d'autorisation valide dans l'en-tête, que vous utilisiez un point de terminaison public ou un point de terminaison VPC privé.
Causes courantes d'échec : Par défaut, les services PAI-EAS ne peuvent pas accéder à Internet. Les tentatives d'invocation d'autres services PAI-EAS via leurs points de terminaison publics échoueront. Pour résoudre ce problème, consultez la rubrique Configurer l'accès réseau pour les services PAI-EAS. Si vous rencontrez des codes d'erreur 401, 502 ou autres, consultez la rubrique Annexe : Codes d'état de service et erreurs courantes pour le dépannage.
Pratique recommandée : Utilisez des points de terminaison VPC privés pour l'invocation de service à service au sein de PAI-EAS afin de garantir la connectivité réseau et la sécurité.