iQIYI Sports est une plateforme de streaming sportif renommée en Chine, diffusant la Liga, le tennis, le golf et des événements en direct. Le trafic est par nature sujet à des pics : une hausse prévisible se produit chaque semaine, et tout match majeur peut déclencher un pic imprévu supplémentaire. Parallèlement, l'équipe d'ingénierie déploie continuellement de nouvelles fonctionnalités. Cette étude de cas décrit comment iQIYI Sports a migré vers Serverless App Engine (SAE) pour éliminer la préparation manuelle avant les pics hebdomadaires, réduire la complexité des déploiements et augmenter l'utilisation des ressources de 50 %.
Avant la migration : les difficultés liées à la mise à l'échelle
Quatre défis s'accumulaient avant la migration.
La préparation manuelle avant les pics de trafic mobilisait chaque semaine les équipes Operations and Maintenance (O&M). Bien que les pics de trafic hebdomadaires soient prévisibles, leur gestion n'était pas automatisée. Les ingénieurs O&M estimaient manuellement les besoins en capacité, préparaient les environnements et déployaient des instances supplémentaires avant chaque pic, un processus chronophage répété à chaque cycle.
Les pics de trafic soudains dégradaient l'expérience utilisateur. Lorsqu'un pic imprévu survenait — un but inattendu, un moment viral — le déploiement temporaire nécessaire pour l'absorber prenait du temps. Ce délai entraînait directement des mises en mémoire tampon et dégradait l'expérience des spectateurs.
Faible utilisation des ressources pendant les heures creuses. La gestion des pics de trafic nécessite un grand nombre de ressources. Cependant, iQIYI Sports doit libérer ces ressources rapidement pendant les heures creuses pour éviter le gaspillage.
Les déploiements canaris requéraient une configuration manuelle complexe. Chaque nouvelle version obligeait les ingénieurs à configurer manuellement le routage des déploiements canaris. Avec une équipe livrant fréquemment, cette charge de travail s'accumulait rapidement.
Une surveillance réactive plutôt que proactive. iQIYI Sports avait besoin de visibilité sur l'architecture des microservices avant que les problèmes n'atteignent les utilisateurs finaux. La configuration existante nécessitait trop d'investigations manuelles pour isoler rapidement les problèmes.
Solution
Le schéma suivant illustre la solution adoptée par iQIYI Sports.
SAE prend en charge nativement les mises à niveau de l'architecture des microservices. iQIYI Sports a migré ses applications vers SAE sans modifier le code ni la logique métier.
L'Auto Scaling a remplacé l'estimation manuelle de la capacité. iQIYI Sports a configuré des politiques d'Auto Scaling pour gérer automatiquement les pics hebdomadaires prévisibles et les pics de trafic soudains. La solution de haute disponibilité de SAE intègre un contrôle fin de la capacité, une élasticité évolutive, une limitation du débit et une dégradation de la bande passante, permettant aux applications de monter en puissance avant l'arrivée du pic et de libérer les ressources lorsque le trafic diminue. Des sondes de vérification de l'état empêchent l'interruption des requêtes en cours lors des événements de mise à l'échelle.
La gestion du cycle de vie a simplifié le workflow de publication. La gestion du cycle de vie des microservices de SAE gère la planification, le déploiement, la surveillance et le diagnostic des ressources sous-jacentes. iQIYI Sports peut désormais configurer des publications progressives, des déploiements canaris ou des rollbacks sans avoir à définir manuellement les règles de routage à chaque fois. L'intégration avec les plateformes CI/CD, notamment Apsara DevOps et Jenkins, déclenche automatiquement les déploiements après l'envoi du code.
Une surveillance intégrée a remplacé un système auto-géré. SAE s'intègre à CloudMonitor et à Application Real-Time Monitoring Service (ARMS) pour offrir une surveillance prête à l'emploi. iQIYI Sports n'a plus besoin de construire ou de maintenir une pile de surveillance distincte. L'intégration avec Application High Availability Service (AHAS) ajoute la coupure de circuit, la dégradation des services et la limitation du trafic. Object Storage Service (OSS) gère le stockage des données.
Résultats
| Résultat | Amélioration |
|---|---|
| Efficacité globale des opérations O&M | +40 % |
| Vitesse de traitement des incidents | +30 % |
| Utilisation des ressources | +50 % |
| Cycle de publication des applications | Réduit de 40 % |
Opérations O&M simplifiées : L'Auto Scaling gère les pics de trafic hebdomadaires sans estimation manuelle de la capacité ni pré-déploiement, améliorant l'efficacité globale des opérations O&M de 40 %.
Résolution plus rapide des incidents : La gestion du cycle de vie des microservices a amélioré la vitesse de traitement des incidents de 30 %.
Réduction des coûts d'infrastructure : L'Auto Scaling libère automatiquement les ressources pendant les heures creuses, augmentant l'utilisation des ressources de 50 %.
Surveillance plus rapide et plus précise : L'intégration native avec ARMS permet à iQIYI Sports d'identifier rapidement les problèmes, réduisant le cycle de publication des applications de 40 %.