Çin'in önde gelen spor yayın platformlarından biri olan iQIYI Sports; La Liga, tenis, golf ve canlı etkinlikleri kapsayan geniş bir içerik yelpazesi sunar. Trafik doğası gereği dalgalıdır: Her hafta tahmin edilebilir bir artış yaşanır ve önemli maçlar bu artışın üzerine plansız ek yükler bindirebilir. Aynı zamanda mühendislik ekipleri sürekli olarak yeni özellikler yayınlamaktadır. Bu vaka analizi, iQIYI Sports'un haftalık yoğunluk öncesi hazırlıkları ortadan kaldırmak, dağıtım karmaşıklığını azaltmak ve kaynak kullanımını %50 artırmak amacıyla Serverless App Engine (SAE) platformuna nasıl geçtiğini anlatmaktadır.
Geçiş öncesi: Ölçeklendirmeyi zorlaştıran faktörler
Geçiş öncesinde dört temel sorun birbirini daha da karmaşık hale getiriyordu.
Manuel hazırlık süreçleri her hafta İşletim ve Bakım (O&M) ekibinin zamanını tüketiyordu. Haftalık trafik artışları tahmin edilebilse de bunların yönetimi otomatize edilmemişti. O&M mühendisleri, her yoğunluk döneminden önce kapasite ihtiyaçlarını manuel olarak hesaplıyor, ortamları hazırlıyor ve ek örnekler dağıtıyordu. Bu zaman alıcı süreç her döngüde tekrarlanıyordu.
Ani trafik artışları izleme deneyimini olumsuz etkiliyor. Beklenmedik bir gol veya viral bir an gibi durumlarda ani ve plansız trafik artışları yaşanıyordu. Bu yükü karşılamak için gereken geçici dağıtım işlemleri zaman alıyordu. Yaşanan bu gecikme doğrudan tamponlamaya (buffering) neden oluyor ve izleyicilerin deneyimini düşürüyordu.
Yoğun olmayan saatlerde düşük kaynak kullanımı. Trafik artışlarını karşılamak için büyük miktarda kaynağa ihtiyaç duyuluyordu. Ancak iQIYI Sports, israfı önlemek adına yoğun olmayan saatlerde kaynakları zamanında serbest bırakmak zorundaydı.
Kademeli sürümler (canary releases) karmaşık manuel yapılandırmalar gerektiriyordu. Her yeni sürüm için mühendislerin kademeli sürüm yönlendirmesini elle ayarlaması gerekiyordu. Sık sık sürüm yayınlayan bir ekip için bu ek yük zamanla birikiyor ve verimliliği düşürüyordu.
İzleme reaktifti, proaktif değildi. iQIYI Sports, sorunlar son kullanıcılara ulaşmadan önce mikroservis mimarisinde görünürlük sağlamak istiyordu. Mevcut kurulum, sorunları hızlıca izole etmek için fazla miktarda manuel inceleme gerektiriyordu.
Çözüm
Aşağıdaki şekil, iQIYI Sports tarafından kullanılan çözümü göstermektedir.
SAE, mikroservis mimarisi yükseltmelerini kutudan çıkar çıkmaz destekler. iQIYI Sports, uygulamalarını kodda veya iş mantığında herhangi bir değişiklik yapmadan SAE platformuna taşıdı.
Otomatik ölçeklendirme, manuel kapasite tahminlerinin yerini aldı. iQIYI Sports, hem tahmin edilebilir haftalık artışları hem de ani trafik sıçramalarını otomatik olarak yönetmek için otomatik ölçeklendirme ilkeleri yapılandırdı. SAE'nin yüksek kullanılabilirlik çözümü; hassas kapasite kontrolü, esnek ölçeklenebilirlik, kısıtlama ve bant genişliği düşürme özelliklerini entegre eder. Böylece uygulamalar, yoğunluk başlamadan önce ölçeklenir ve trafik azaldığında kaynakları serbest bırakır. Sağlık kontrolü probları, ölçeklendirme olayları sırasında devam eden isteklerin kesintiye uğramasını önler.
Yaşam döngüsü yönetimi, sürüm iş akışını basitleştirdi. SAE'nin mikroservis yaşam döngüsü yönetimi; altta yatan kaynaklar için zamanlama, dağıtım, izleme ve tanılama işlemlerini üstlenir. iQIYI Sports artık her seferinde yönlendirme kurallarını manuel olarak ayarlamadan kademeli sürümler, canary sürümler veya geri almalar yapılandırabilir. Apsara DevOps ve Jenkins dahil olmak üzere CI/CD platformlarıyla entegrasyon sayesinde, kod gönderildikten sonra dağıtımlar otomatik olarak tetiklenir.
Yerleşik izleme, kendi kendine yönetilen sistemlerin yerini aldı. SAE, kutudan çıkar çıkmaz izleme sağlamak amacıyla CloudMonitor ve Application Real-Time Monitoring Service (ARMS) ile entegre çalışır. iQIYI Sports artık ayrı bir izleme yığını oluşturmak veya bakımını yapmak zorunda değildir. Application High Availability Service (AHAS) ile entegrasyon, devre kesme, hizmet degradasyonu ve trafik kısıtlama özellikleri ekler. Object Storage Service (OSS) ise veri depolama işlemlerini yönetir.
Sonuçlar
| Sonuç | İyileştirme |
|---|---|
| Genel O&M verimliliği | +%40 |
| Sorun giderme hızı | +%30 |
| Kaynak kullanımı | +%50 |
| Uygulama sürüm döngüsü | %40 kısaldı |
Daha basit O&M: Otomatik ölçeklendirme, manuel kapasite tahmini veya ön dağıtım gerektirmeden haftalık trafik artışlarını yönetir ve genel O&M verimliliğini %40 artırır.
Daha hızlı sorun çözümü: Mikroservis yaşam döngüsü yönetimi, sorun giderme hızını %30 oranında iyileştirdi.
Düşük altyapı maliyetleri: Otomatik ölçeklendirme, yoğun olmayan saatlerde kaynakları otomatik olarak serbest bırakarak kaynak kullanımını %50 artırır.
Daha hızlı ve doğru izleme: ARMS ile yerleşik entegrasyon, iQIYI Sports'un sorunları hızla tespit etmesini sağlar ve uygulama sürüm döngüsünü %40 oranında kısaltır.