Bu konu, bir otomatik ölçeklendirme ilkesinde farklı gelişmiş parametrelerin nasıl yapılandırılacağını ve bu parametrelerin sistem davranışı üzerindeki etkilerinin nasıl doğrulanacağını açıklar.
Önkoşullar
Bir otomatik ölçeklendirme ilkesindeki gelişmiş parametrelerin uygulama örnekleri ölçeklendirmesi üzerindeki etkilerini doğrulamak amacıyla Performance Testing Service (PTS) içinde bir uygulama için yük testi çalıştırılır. Yük testinden önce aşağıdaki adımları tamamlamanız gerekir.
-
Serverless App Engine (SAE) uygulaması oluşturma.
NotYük testini basitleştirmek için uygulama örneği sayısını 1 olarak ayarlayın.
-
Uygulamaya İnternet üzerinde dağıtılan bir Classic Load Balancer (CLB) örneği bağlama ve CLB erişim günlüğü özelliğini etkinleştirme.
NotCLB erişim günlüğü özelliğini etkinleştirdiğinizde ek ücretlere tabi olursunuz.
Gelişmiş parametreler
Bir uygulama için ölçüm tabanlı otomatik ölçeklendirme ilkesi veya karma otomatik ölçeklendirme ilkesi yapılandırdığınızda Serverless App Engine beş gelişmiş parametre sunar. Aşağıdaki listede bu parametreler açıklanmıştır.
Scale-out Step Size: Birim zaman başına dışa ölçeklenebilecek maksimum örnek sayısıdır.
Scale-in Step Size: Birim zaman başına içeri ölçeklenebilecek maksimum örnek sayısıdır.
Scale-out Stabilization Window: Dışa ölçeklendirmenin stabil kaldığı süredir. Otomatik ölçeklendirme algoritması, belirtilen aralıkta hesaplanan minimum beklenen örnek sayısının bir scale-out işlemi sırasında kullanılmasını sağlar.
Scale-in Stabilization Window: İçeri ölçeklendirmenin stabil kaldığı süredir. Otomatik ölçeklendirme algoritması, belirtilen aralıkta hesaplanan maksimum beklenen örnek sayısının bir scale-in işlemi sırasında kullanılmasını sağlar.
Disable Scale-in: Uygulama örneklerinin içeri ölçeklendirilememesini belirtir.
Bir uygulama için otomatik ölçeklendirme ilkesi yapılandırma
Bir ölçüm tabanlı otomatik ölçeklendirme ilkesi veya karma otomatik ölçeklendirme ilkesi yapılandırırken otomatik ölçeklendirme ilkesi için gelişmiş parametreler belirleyebilirsiniz. Bu bölümde yalnızca temel adımlar açıklanmaktadır.
Bu bölümde yapılandırılan ölçüm tabanlı otomatik ölçeklendirme ilkesi yalnızca yük testi amaçlıdır. Üretim ortamında iş gereksinimlerinize göre ayarları uyarlayın.
Hedef uygulamanın Basic Information sayfasında Auto Scaling sekmesine tıklayın ve ardından Create Auto Scaling Policy seçeneğine tıklayın.
-
Açılan panelde public CLB QPS ölçümüne dayalı bir otomatik ölçeklendirme ilkesi yapılandırın ve hedef değeri 10 olarak ayarlayın.
NotGelişmiş parametre belirtilmez.
Policy Type için metric-based auto scaling policy seçeneğini belirleyin, Policy Name alanını demo, Minimum Number of Instances alanını 1 ve Maximum Number of Instances alanını 5 olarak ayarlayın. Minimum Number of Ready Instances için By Ratio seçeneğini belirleyin ve değeri %50 olarak ayarlayın.
Ölçüm tabanlı otomatik ölçeklendirme ilkesini ekledikten sonra ilkeyi etkinleştirin.
Gelişmiş parametrelerin etkilerini doğrulama
Her bir gelişmiş parametreyi doğrulamadan önce ölçüm tabanlı bir otomatik ölçeklendirme ilkesinde herhangi bir gelişmiş parametre belirtilmediğinden emin olun.
Scale-out Step Size parametresini doğrulama
scale-out step size mantığı scale-in step size mantığına benzediğinden bu bölümde yalnızca scale-out step size parametresi doğrulanır.
Scale-out Step Size parametresi belirtilmeden dışa ölçeklendirme etkisini doğrulama
-
PTS konsoluna giriş yapın ve SAE uygulaması üzerinde yük testi çalıştırın.
NotYük testinde kullanılan URL, SAE uygulamasına bağlı ve İnternet üzerinde dağıtılan CLB örneğinin IP adresidir. URL formatı
http://Genel IP adresi bağlantı noktası numarasışeklindedir. -
Yük testi başladıktan sonra SAE uygulamasının otomatik ölçeklendirme olaylarını görüntüleyebilirsiniz.
Source Type öğesine göre filtreleme yapın ve auto scaling (HorizontalPodAutoscaler) seçeneğini belirleyin. Nedeni SuccessfulRescale olan kayıtları görüntüleyebilirsiniz. Ayrıntıları genişleterek dış ölçüm
slb_incall_qpsdeğerinin hedef değeri aşması nedeniyle scale-out işleminin tetiklendiğini görebilirsiniz.Otomatik ölçeklendirme olayları, HPA denetleyicisinin SAE uygulamasını 5 örneğe genişlettiğini gösterir.
Scale-out Step Size parametresi belirtilerek dışa ölçeklendirme etkisini doğrulama
-
Metric-based auto scaling policy içinde scale-out step size parametresini yapılandırın.
Hedef uygulamanın Basic Information sayfasında Auto Scaling sekmesine tıklayın ve ardından eklenen otomatik ölçeklendirme ilkesinin Actions sütunundaki Edit seçeneğine tıklayın.
Edit Auto Scaling Policy panelinde gelişmiş parametre yapılandırma alanını genişletmek için Advanced Settings seçeneğine tıklayın.
Advanced Settings alanında scale-out step size değerini
1olarak ayarlayın, diğer gelişmiş parametreleri yapılandırmayın ve ardından OK seçeneğine tıklayın.
PTS kullanarak SAE uygulaması üzerinde yük testi çalıştırın.
-
Yük testi başladıktan sonra hedef SAE uygulaması için otomatik ölçeklendirme olaylarını görüntülemek üzere Application Events sayfasına gidin.
Otomatik ölçeklendirme olayları, SAE uygulamasındaki örneklerin aynı anda beş örneğe değil, tek tek ölçeklendirildiğini gösterir. Bu durum, Scale-out Step Size parametresinin devrede olduğunu ve her seferinde ölçeklendirilen örnek sayısını sınırladığını; böylece dışa ölçeklendirme ritmini kontrol ederek sistem kararlılığı ile yanıt hızı arasında denge kurduğunu gösterir.
Scale-out Stabilization Window parametresini doğrulama
scale-out stabilization window parametresinin mantığı scale-in stabilization window parametresine benzediğinden bu bölümde yalnızca scale-out stabilization window parametresi doğrulanır.
Scale-out Stabilization Window belirtilmeden dışa ölçeklendirme etkisini doğrulama
-
Performance Testing Service (PTS) konsoluna giriş yapın ve hedef SAE uygulaması üzerinde hızlı bir yük testi çalıştırın.
NotYük testi için kullanılan URL, SAE uygulamasına bağlı genel CLB örneğinin erişim adresidir. URL formatı
http://<Genel IP adresi>:<Bağlantı noktası>şeklindedir. -
Yük testi başladıktan sonra yük testinin başlangıç zamanı ile SAE uygulamasının dışa ölçeklendirme zamanını karşılaştırabilirsiniz.
Yük testinin başlangıç zamanı
SAE uygulamasının dışa ölçeklendirme başlangıç zamanı
Zamanı Report List sayfasında görüntüleyin.
Her bir yük testi kaydı için Test Time, Report Name, Report ID, Duration, Peak Concurrency ve VUMs Consumed gibi bilgileri görüntüleyebilirsiniz. Test zamanı 2025-03-07 17:36:55 olan kaydı bulun ve test sonuçlarını görüntülemek için ilgili View Report bağlantısına tıklayın.
2025-03-07 17:36:55
Zamanı Application Events sayfasında görüntüleyin.
2025-03-07 17:37:21
Test, scale-out stabilization window parametresi yapılandırılmadığında örneklerin, SAE uygulaması trafiği işlemeye başladıktan yaklaşık 20 saniye sonra hızlı bir şekilde ölçeklendirildiğini gösterir.
Scale-out Stabilization Window belirtilerek dışa ölçeklendirme etkisini doğrulama
-
Metric-based auto scaling policy içinde scale-out stabilization window parametresini yapılandırın.
Hedef uygulamanın Basic Information sayfasında Auto Scaling sekmesine tıklayın ve ardından eklenen otomatik ölçeklendirme ilkesinin Actions sütunundaki Edit seçeneğine tıklayın.
Edit Auto Scaling Policy panelinde gelişmiş parametre yapılandırma alanını genişletmek için Advanced Settings seçeneğine tıklayın.
Advanced Settings alanında scale-out stabilization window değerini
300saniye olarak ayarlayın, diğer gelişmiş parametreleri yapılandırmayın ve ardından OK seçeneğine tıklayın.
PTS aracını kullanarak hedef SAE uygulaması üzerinde hızlı bir yük testi çalıştırın.
-
Yük testi başladıktan sonra yük testinin başlangıç zamanı ile SAE uygulamasının dışa ölçeklendirme zamanını karşılaştırabilirsiniz.
Yük testinin başlangıç zamanı
SAE uygulamasının dışa ölçeklendirme başlangıç zamanı
Zamanı Report List sayfasında görüntüleyin.
Hedef yük testi raporu kaydını bulun, Test Time değerini doğrulayın ve test sonuçlarını görüntülemek için Actions sütunundaki View Report seçeneğine tıklayın.
2025-03-10 09:50:35
Zamanı Application Events sayfasında görüntüleyin.
Olay listesinde olay düzeyi Normal, nedeni SuccessfulRescale ve kaynak türü HorizontalPodAutoscaler olan bir kayıt gösterilir. Bu durum, Pod sayısının dış ölçüm
slb_incall_qpsbaz alınarak başarıyla 5'e ayarlandığını gösterir.Test sonucu, Scale-out Stabilization Window parametresi 300 olarak ayarlandığında SAE uygulaması trafik aldıktan hemen sonra bir örnek dışa ölçeklendirme işleminin tetiklenmediğini gösterir. Bunun yerine, belirtilen stabilizasyon penceresi sona erdikten sonra bir örnek dışa ölçeklendirme işlemi başlar. Bu durum, Scale-out Stabilization Window parametresinin dışa ölçeklendirme işlemlerini etkili bir şekilde geciktirebileceğini ve kısa vadeli trafik dalgalanmalarından kaynaklanan kaynak israfını önleyebileceğini gösterir.
Disable Scale-in parametresini doğrulama
Disable Scale-in etkinleştirilmeden ölçeklendirme etkisini doğrulama
-
Performance Testing Service (PTS) konsoluna giriş yapın ve hedef SAE uygulaması üzerinde hızlı bir yük testi çalıştırın.
NotYük testi için kullanılan URL, SAE uygulamasına bağlı genel CLB örneğinin erişim adresidir. URL formatı
http://<Genel IP adresi>:<Bağlantı noktası>şeklindedir. -
Yük testi tamamlandıktan sonra uygulamanın ölçeklendirme olaylarını görüntülemek için Application Events sayfasına gidin.
Source Type öğesine göre auto scaling (HorizontalPodAutoscaler) filtresi uygulandığında olay listesinde iki SuccessfulRescale olayı gösterilir. İlki, dış ölçüm
slb_incall_qpsdeğerinin hedefini aşması nedeniyle test sırasında 5 örneğe yapılan bir scale-out işlemiydi. İkincisi ise tüm ölçümlerin hedeflerinin altına düşmesi nedeniyle test sonrası 1 örneğe yapılan bir scale-in işlemiydi.Test, disable scale-in parametresi etkinleştirilmezse uygulamanın yük testi tamamlandıktan sonra tek bir örneğe içeri ölçeklendirildiğini gösterir.
Disable Scale-in etkinleştirilerek ölçeklendirme etkisini doğrulama
-
Metric-based auto scaling policy içinde disable scale-in seçeneğini etkinleştirin.
Hedef uygulamanın Basic Information sayfasında Auto Scaling sekmesine tıklayın ve ardından eklenen otomatik ölçeklendirme ilkesinin Actions sütunundaki Edit seçeneğine tıklayın.
Advanced Settings alanında disable scale-in seçeneğini etkinleştirin.
-
PTS aracını kullanarak hedef SAE uygulaması üzerinde hızlı bir yük testi çalıştırın.
NotBelirtilen yük testi süresi 10 dakikadır.
-
Yük testi tamamlandıktan sonra (trafik 0 olduğunda) uygulama örneklerinin içeri ölçeklendirilip ölçeklendirilmediğini kontrol edin.
Örnek listesi, beş örneğin de Running durumunda olduğunu gösterir. Dört örnek yaklaşık 15 dakikadır çalışmaktadır (dışa ölçeklendirme sırasında oluşturuldu) ve bir örnek yaklaşık 5 saattir çalışmaktadır (orijinal örnek). Hiçbir örnek içeri ölçeklendirilmedi.
Test sonucu, yük testi tamamlandıktan sonraki yaklaşık 5 dakika içinde uygulama örneklerinin sayısının 5'te kaldığını ve herhangi bir scale-in işlemi gerçekleşmediğini gösterir. Bu durum, Disable Scale-in parametresinin devrede olduğunu gösterir. Bu parametre, trafik dalgalanmaları veya yanlış değerlendirmelerden kaynaklanan aşırı kaynak serbest bırakmayı etkili bir şekilde önleyerek hizmet kararlılığını sağlar.