Esnek kaynak havuzu, EAS tarafından sunulan hizmet düzeyinde bir hibrit kaynak zamanlama stratejisidir. Özel kaynak grubu içinde dağıtılan hizmetlerin, trafik artışı sırasında özel kaynaklar yetersiz kaldığında yeni çoğaltmaları kullandıkça öde genel kaynak grubuna otomatik olarak “taşmasını” sağlar. Bu sayede hizmetiniz esnek ölçeklendirme yeteneğini korur.
Avantajlar
Kaynak grubu kapasite sınırlarını aşın: Özel kaynak grubundaki kaynaklar azaldığında, hizmetin ölçeği genişletilirken genel kaynak havuzundan talep üzerine örnekler otomatik olarak kullanılabilir. Bu durum, yatay otomatik ölçeklendirmenin (QPS veya CPU gibi ölçümlere dayalı) özel kaynak grubundaki fiziksel düğüm sayısı ile sınırlanmamasını sağlar.
Maliyetleri optimize edin: Temel trafiği karşılamak için düşük maliyetli abonelik kaynaklarını kullanın ve yalnızca yoğun dönemlerde talep üzerine kaynak tüketin. Yoğun yükleri karşılamak amacıyla uzun vadede fazladan özel kaynak tutmanıza gerek kalmaz; bu da toplam kaynak maliyetlerini düşürür.
Çalışma mantığı
Esnek kaynak havuzu, maliyet ve kararlılık dengesini sağlamak için belirgin bir öncelik sırasına göre zamanlama yapar.
-
Ölçeği genişletme
Bir hizmet ölçeği genişletmeyi tetiklediğinde, EAS zamanlayıcısı önce hizmetin özel kaynak grubu içinde yeni örnekler oluşturmayı dener.
Özel kaynak grubunda yeterli kaynak yoksa (örneğin kullanılabilir düğüm bulunmuyorsa veya kalan CPU, bellek ya da GPU yetersizse), zamanlayıcı esnek kaynak havuzunu yapılandırırken tanımladığınız teknik özellikler (örnek türü) kullanarak genel kaynak grubunda yeni örnekler oluşturur.
-
Ölçeği daraltma
Bir hizmet ölçeği daraltmayı tetiklediğinde, sistem öncelikle genel kaynak grubunda çalışan örnekleri seçer ve sonlandırır.
Genel kaynak grubundaki tüm esnek örnekler ölçeği daraltıldıktan sonra sistem, özel kaynak grubundaki örnekleri daraltmaya başlar. Bu yaklaşım, daha kararlı temel örnekleri korurken yüksek maliyetli esnek kaynakların önce serbest bırakılmasını sağlar.
Ön koşullar
Bir özel kaynak grubu oluşturmuş olmanız gerekir. Daha fazla bilgi için bkz. EAS kaynak gruplarını kullanma.
Yapılandırma yöntemleri
Hizmet dağıtımı sırasında esnek kaynak havuzunu etkinleştirme
Konsol yapılandırması
PAI konsoluna giriş yapın. Sayfanın üst kısmından bir bölge seçin. Ardından istediğiniz çalışma alanını seçin ve Enter Elastic Algorithm Service (EAS) öğesine tıklayın.
Deploy Service seçeneğine tıklayın. Inference Service bölümünde, Custom Model Deployment bölümü altındaki Custom Deployment seçeneğine tıklayın.
-
Custom Deployment sayfasında Resource Information bölümüne gidin ve aşağıdaki anahtar parametreleri yapılandırın. Diğer parametreler için bkz. Özel dağıtım.
Parameter
Description
Resource Type
EAS Resource Group seçeneğini belirleyin.
Resource Group
Mevcut bir özel kaynak grubu seçin.
Elastic Resource PoolElastic Resource Pool anahtarını açın ve bir Resource Specification seçin.
Esnek kaynak havuzunu yapılandırdıktan sonra, ölçeği genişletme sırasında makine kaynakları yetersiz kalırsa yeni oluşturulan örnekler otomatik olarak yapılandırılan kullandıkça öde genel kaynaklarda başlatılır ve genel kaynak grubu altında faturalandırılır. Ölçeği daraltma sırasında ise önce genel kaynak grubundaki örnekler azaltılır.
Deploy seçeneğine tıklayın.
JSON yapılandırması
Esnek kaynak havuzunu etkinleştirmeye yönelik anahtar parametreler aşağıda listelenmiştir. Diğer parametreler için bkz. JSON dağıtımı.
resource_burstable: Esnek kaynak havuzunu etkinleştirmek için true olarak ayarlayın.
-
cloud.networking: Esnek ölçeklendirme sırasında ağ erişilebilirliğini sağlamak üzere, esnek kaynak havuzunu etkinleştirirken hizmetin sanal özel bulut (VPC) bilgisini bu alan aracılığıyla yapılandırın.
ÖnemliÖzel bir kaynak grubu kullanırken sanal özel bulut yapılandırmasını kaynak grubu düzeyinde yapabilirsiniz; ancak özel kaynak grubunu yalnızca hizmet düzeyinde (cloud.networking alanı aracılığıyla) yapılandırabilirsiniz.
cloud.computing: Genel kaynaklara ölçeği genişletme sırasında kullanılabilen örnek türlerini belirtir. Daha fazla bilgi için bkz. Genel kaynakları kullanma.
Aşağıdaki örnek, bir JSON yapılandırma dosyasını göstermektedir.
{
"model_path": "http://examplebucket.oss-cn-shanghai.aliyuncs.com/models/lr.pmml",
"name": "test_burstable_service",
"processor": "pmml",
"metadata": {
"instance": 1,
"cpu": 1,
"resource": "eas-r-xxx",
"resource_burstable": true
},
"cloud": {
"computing": {
"instance_type": "ecs.r7.2xlarge"
},
"networking": {
"security_group_id": "sg-uf68iou5an8j7sxd****",
"vswitch_id": "vsw-uf6nji7pzztuoe9i7****"
}
}
}Hizmet dağıtımından sonra esnek kaynak havuzunu etkinleştirme veya devre dışı bırakma
Konsolu kullanma
PAI konsoluna giriş yapın. Sayfanın üst kısmından bir bölge seçin. Ardından istediğiniz çalışma alanını seçin ve Enter Elastic Algorithm Service (EAS) öğesine tıklayın.
Dağıttığınız hizmetin Actions sütunundaki Update seçeneğine tıklayın.
-
Update Service sayfasında Resource Information bölümüne giderek esnek ölçeklendirmeyi etkinleştirin veya devre dışı bırakın.
-
Esnek ölçeklendirmeyi etkinleştirme
Resource Information bölümünde Elastic Resource Pool anahtarını açın ve genel kaynak grubu teknik özelliklerini yapılandırın.
-
Esnek ölçeklendirmeyi devre dışı bırakma
Resource Information bölümünde Elastic Resource Pool anahtarını kapatın.
-
Update seçeneğine tıklayın.
Yerel istemci kullanma
Zaten dağıtılmış bir hizmet için otomatik ölçeklendirmeyi hızlıca etkinleştirmek veya devre dışı bırakmak amacıyla aşağıdaki komutları kullanın. Örnek, Windows 64-bit sürümü içindir:
Hizmeti özel bir kaynak grubunda dağıtırken cloud.networking parametresini yapılandırmadıysanız, otomatik ölçeklendirmeyi etkinleştirdikten sonra genel kaynak grubuna ölçeği genişletilen örnekler doğrudan ağ bağlantısını desteklemez.
# Enable auto scaling for service resources.
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=true
# Disable auto scaling for service resources.
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=false<service_name> ifadesini dağıttığınız hizmetin adıyla değiştirin.
Otomatik ölçeklendirmeyi etkinleştirmek veya devre dışı bırakmak yalnızca yeni oluşturulan hizmet örneklerini etkiler. Mevcut örnekler otomatik olarak taşınmaz. Örneğin, ölçeği genişletme tamamlandığında iki örnek bekleme durumundaysa, sonrasında otomatik ölçeklendirmeyi etkinleştirmek bu bekleyen örnekleri genel kaynak grubuna taşımaz. Konsoldan yeniden başlatarak bu örneklerin genel kaynaklara yeniden zamanlanmasını sağlayabilirsiniz. Benzer şekilde, zaten genel kaynaklarda çalışan örnekleri olan bir hizmet için otomatik ölçeklendirmeyi devre dışı bırakırsanız, bu örnekler otomatik olarak özel kaynak grubuna geri taşınmaz.
İlgili konular
Sistemin yapılandırdığınız ölçümlere göre otomatik olarak ölçeklendirilmesini sağlamak için yatay otomatik ölçeklendirmeyi etkinleştirin. Daha fazla bilgi için bkz. Yatay otomatik ölçeklendirme.
Çoğaltma sayısını belirli bir değere zamanlanmış olarak otomatik şekilde ölçeklendirmek için bkz. Zamanlanmış otomatik ölçeklendirme.