PAI-EAS iki tür kaynak grubu sunar: özel kaynak grupları ve sanal kaynak grupları. Özel kaynak grupları, size özel hesaplama kaynaklarını satın almanıza ve yönetmenize olanak tanır. Sanal kaynak grupları; genel kaynakları, kaynak kotalarını ve özel EAS kaynaklarını birleştirerek hizmetlerin karma dağıtımını destekler.
Özel kaynak grupları
Kaynak türleri
Özel kaynaklar iki faturalandırma modunda mevcuttur: abonelik (peşin ödemeli) ve kullandıkça öde (sonradan ödemeli).
Tür | Faturalandırma yöntemi | Kaynak grubu yönetimi | Desteklenen kaynak türleri |
Peşin ödemeli kaynak | Abonelik | Makineleri satın alın, peşin ödemeli makineleri yenileyin, sonradan ödemeli makineleri serbest bırakın ve kaynak gruplarını silin. Daha fazla bilgi için bkz. Özel kaynak grubundaki makineleri yönetme. | EAS Dedicated Machine Subscription sayfasına gidin. |
Sonradan ödemeli kaynak | Kullandıkça öde | EAS Dedicated Machine Pay-as-you-go sayfasına gidin. |
Sonradan ödemeli özel kaynaklar, hizmet dağıtımı için kullanılıp kullanılmadığına bakılmaksızın satın alındıktan hemen sonra faturalandırılır. Gereksiz ücretlerden kaçınmak için kullanılmayan sonradan ödemeli makineleri derhal serbest bırakın.
Özel kaynak grubu oluşturma
AI Computing Resources > Resource Pools sayfasına gidin ve EAS Inference Resources sekmesini seçin.
-
Dedicated Resource Group sekmesinde Create Resource Group seçeneğine tıklayın ve aşağıdaki seçeneklerden birini belirleyin:
Create Resource Group: Yalnızca kaynak grubunu oluşturur. Daha sonra kaynak grubu ayrıntıları sayfasından makine satın alabilirsiniz.
Create Resource (Subscription) veya Create Resource (Pay by Usage): Makine satın alabileceğiniz ve aynı anda kaynak grubu oluşturabileceğiniz satın alma sayfasına yönlendirir.
-
Satın alma sayfasında aşağıdaki parametreleri yapılandırın.
Parametre
Açıklama
Billing Method
Subscription veya Pay-as-you-go seçeneğini belirleyin.
Region and Zone
Kaynak grubu için bölge ve alanı seçin.
Node Type
Kullanılabilir GPU ve CPU örnek türleri. Mevcut kaynakların tam listesi için EAS Dedicated Machine Subscription veya EAS Dedicated Machine Pay-as-you-go sayfasına bakın.
NotKullanılabilir örnek türleri bölgeye göre değişiklik gösterir.
System Disk
Her makine, ek ücret olmadan 200 GB sistem disk depolama alanı içerir. Kapasiteyi 2.000 GB'a kadar artırabilirsiniz (minimum: 200 GB). Ek kapasiteyle ilgili faturalandırma ayrıntıları için bkz. EAS billing.
NotTüm hizmet örnekleri sistem disk depolama alanını paylaşır. Sistem diski dolduğunda sistem, en çok depolama kullananlardan başlayarak hizmet örneklerini tahliye eder ve alan açar. Örnek çalışma süresi sırasında yerel disk dizinine okuma/yazma yapmak için bkz. Storage mounts.
buy_type
new veya upgrade seçeneğini belirleyin.
upgrade seçeneğini belirlerseniz resource_id değerini yapılandırın.
resource_id
Listeden oluşturulmuş bir kaynak grubu ID'si seçin.
order_num
Geçerli değerler: 1 ile 9999 arası.
Duration
Abonelik süreleri: 1 ay, 2 ay, 3 ay, 6 ay, 1 yıl veya özel süreler (yalnızca abonelik).
Auto-Renewal
Abonelik süresi dolduğunda otomatik yenilemeyi etkinleştirin veya devre dışı bırakın (yalnızca abonelik).
-
Ödeme başarılı olduktan sonra sistem kaynakları otomatik olarak tahsis eder. Kaynak gruplarınızı Resource Group sekmesinde görüntüleyebilir veya yeniden adlandırabilirsiniz.
Not(Yalnızca abonelik) Seçilen bölgede yetersiz kaynak nedeniyle kaynak grubu oluşturulamazsa sistem otomatik olarak bir iade siparişi oluşturur ve ödeme orijinal ödeme kanalı üzerinden iade edilir.
Özel kaynak grubundaki makineleri yönetme
Makine satın alma |
|
Makine yenileme (Yalnızca abonelik makineleri) | Bir makinenin abonelik süresini uzatın. Örneğin, bir aylık yenileme aboneliği bir ay uzatır.
|
Makine serbest bırakma | Sonradan ödemeli makine: Özel kaynak grubu ayrıntıları sayfasında hedef örneğin Operations sütununda Delete seçeneğine tıklayın. Abonelik makinesi: Bkz. EAS FAQ. |
Kaynak kullanımını görüntüleme | Resource Group sekmesinde hedef kaynak grubunun adına tıklayın. Ardından Nodes sekmesinde her makinenin CPU, GPU ve bellek kullanımını ve toplam kapasitesini görüntüleyin. |
Zamanlamayı devre dışı bırakma | Bir makine Running durumundayken Actions sütununda Stop Scheduling seçeneğine tıklayarak makineyi zamanlanamaz duruma getirin. Zamanlamayı sürdürmek için Restart Scheduling seçeneğine tıklayın. Not Zamanlama devre dışı bırakıldıktan sonra makinede çalışan hizmetler çalışmaya devam eder. Ancak bir hizmet yeniden başlatılırsa kaynak grubundaki başka bir kullanılabilir makineye zamanlanır. |
Düğümü tahliye etme | Clear Node seçeneğine tıklayın. Makinede dağıtılan hizmet örnekleri otomatik olarak durdurulur ve kaynak grubundaki diğer kullanılabilir makinelere yeniden dağıtılır. Önemli Bir düğümün tahliye edilmesi, makinede çalışan tüm işleri iptal eder. Dikkatli ilerleyin. |
Sanal kaynak grupları
Sanal kaynak grubu; genel kaynakları, kaynak kotalarını ve özel EAS kaynaklarını birleştirerek tek bir hizmeti farklı kaynak havuzlarında dağıtmanıza ve zamanlamanıza olanak tanıyan mantıksal bir gruplandırmadır.
Sanal kaynak grubu oluşturma
AI Computing Resources > Resource Pools sayfasına gidin ve EAS Inference Resources sekmesini seçin.
-
Virtual Resource Group sekmesinde Create Virtual Resource Group seçeneğine tıklayın.
Desteklenen kaynak türleri arasında Public Resource Group, EAS Resource Group ve Resource Quota bulunur. Genel kaynak grupları için ayrıca Spot instances seçebilirsiniz. Gerekirse kaynak türlerini yapılandırın ve her kaynak için zamanlama önceliğini ayarlayın (1 = en düşük öncelik, 9 = en yüksek öncelik).
Sanal kaynak grubu kullanma
Hizmet dağıtırken Resource Information bölümünde Resource Type değerini EAS Resource Group olarak ayarlayın ve ardından Resource Group açılır listesinden Virtual Resource Group seçeneğini belirleyin.
Başvurular
Model hizmeti dağıtım yapılandırması hakkında daha fazla bilgi için bkz. Custom deployment.
EAS hizmet günlüklerini SLS Logstore'unuza kaydetmek için kaynak grupları için günlük toplama yapılandırabilirsiniz. Daha fazla bilgi için bkz. Configure log collection.
SSS
-
Tek bir kaynak grubunda birden çok model dağıtabilir miyim?
Evet. Kaynak grubunda yeterli kapasite olduğu sürece içine birden çok model hizmeti dağıtabilirsiniz.
-
Boştaki özel EAS kaynaklarını DLC dağıtılmış eğitimi için kullanabilir miyim?
Hayır. Özel EAS kaynakları yalnızca hizmet dağıtımı için kullanılabilir ve DLC için kullanılamaz.