Spot örnekler, talep üzerine fiyatlara kıyasla önemli ölçüde daha düşük fiyatlandırılan ve öncelikli olarak kullanılabilen hesaplama örnekleridir. Knative iş yükleriniz kısa ömürlü istekleri işliyorsa ve zaman zaman kesintilere tolerans gösterebiliyorsa spot örneklerine geçiş yapmak sunucusuz mimarinizin esnekliğini ve yanıt verebilirliğini korurken hesaplama maliyetlerinizi önemli ölçüde azaltabilir.
Bu konu Container Service for Kubernetes (ACK) üzerinde çalışan Knative Hizmetleri için spot örneklerinin nasıl yapılandırılacağını kesintilerin nasıl sorunsuz yönetileceğini ve spot örnek durumlarının nasıl izleneceğini açıklar.
Ön koşullar
Başlamadan önce aşağıdaki ön koşulları karşıladığınızdan emin olun:
Knative bileşenleri ACK kümenize dağıtılmış olmalıdır. Daha fazla bilgi için bkz. Knative bileşenlerini dağıtma ve yönetme.
Sorunsuz kapatma için Eviction API'sini kullanmak istiyorsanız ack-virtual-node 2.11.0 veya sonraki bir sürüm yüklü olmalıdır. Daha fazla bilgi için bkz. ack-virtual-node.
Temel kavramlar
Çalışma mantığı
Knative Hizmetleri gelen isteklere göre Pod'ları otomatik olarak ölçeklendirir. Her Pod sanal bir düğüm üzerinde çalışır. Bu düğüm Pod ek açıklamalarına (annotations) göre ilgili Elastic Container Instance (ECI) kaynağını sağlar. Spot örneklerini kullanmak için Knative Hizmetinizin Pod şablonuna spot özgü ek açıklamalar eklemeniz yeterlidir. Sanal düğüm kaynak sağlamayı ve otomatik değiştirmeyi üstlenir.

Knative'in spot örnekleri için uygun olmasının nedenleri şunlardır:
İstek kapsamlı iş yükleri: Knative Pod'ları tek tek istekleri işler ve tamamlandıktan hemen sonra kaynakları serbest bırakır. Bu nedenle kesintiler devam eden çalışmaları nadiren etkiler.
Yerleşik sorunsuz kapatma: Knative her Pod'a bir
queue-proxysidecar konteyneri ekler. Bir Pod sonlandırıldığındaqueue-proxyuygulama konteyneri kapanmadan önce tüm devam eden isteklerin tamamlanmasını bekler.Maliyet etkinliği: Maliyet konusunda hassas Knative kullanıcıları için spot örnekleri önemli tasarruf sağlar.
Sınırlamalar
Spot örneği ek açıklamaları yalnızca bir ECI Pod'u oluşturulduğunda uygulanır. Mevcut bir ECI Pod'una bu ek açıklamaları eklemek veya değiştirmek herhangi bir etki yaratmaz.
Spot örneklerini yapılandırma
Aşağıdaki ek açıklamaları Knative Hizmetinizin Pod şablonuna ekleyin.
| Ek Açıklama | Örnek değer | Gerekli mi? | Açıklama |
|---|---|---|---|
k8s.aliyun.com/eci-spot-strategy |
SpotAsPriceGo |
Evet | Teklif stratejisi. Geçerli değerler: SpotWithPriceLimit ve SpotAsPriceGo. Ayrıntılar için bkz. Teklif stratejisi seçme. |
k8s.aliyun.com/eci-spot-price-limit |
"0.5" |
Hayır | Spot örneği için maksimum saatlik fiyat. Değer en fazla üç ondalık basamak içerebilir. Yalnızca eci-spot-strategy değeri SpotWithPriceLimit olarak ayarlandığında geçerli olur. |
k8s.aliyun.com/eci-spot-duration |
"1" |
Hayır | Koruma süresi (saat cinsinden). Varsayılan: 1. Koruma süresini devre dışı bırakmak için 0 olarak ayarlayın. Koruma süresi boyunca piyasa fiyatı teklifinizi aşsa bile spot örneği geri alınmaz. |
k8s.aliyun.com/eci-spot-fallback |
"true" |
Hayır | Spot envanteri mevcut olmadığında talep üzerine (on-demand) bir örnek oluşturulup oluşturulmayacağı. Varsayılan: false. true olarak ayarlandığında sanal düğüm hem oluşturma sırasında hem de geri alınan bir Pod'u değiştirirken talep üzerine örneğe geçer. |
Teklif stratejisi seçme
İki teklif stratejisi mevcuttur. Tercihinizi maliyet değişkenliğine ve oluşturma hatasına toleransınıza göre belirleyin.
| Strateji | Fiyatlandırma mantığı | Oluşturma davranışı |
|---|---|---|
SpotAsPriceGo |
Otomatik olarak geçerli piyasa fiyatını takip eder | Envanter varsa oluşturma başarılı olabilir. Belirtilen örnek türüne talep yüksek olduğunda fiyat talep üzerine fiyata ulaşabilir. |
SpotWithPriceLimit |
Belirlediğiniz sabit maksimum fiyata teklif verir | Fiyat limitinizde veya altında envanter yoksa oluşturma başarısız olur. |
Kaynak talebinin yüksek olduğu dönemlerde SpotAsPriceGo kullanıldığında spot fiyatı talep üzerine fiyata ulaşabilir.
Örnekler
Örnek 1: Sabit fiyat limiti
Aşağıdaki YAML maksimum saatlik fiyatı 0,25 USD olan SpotWithPriceLimit stratejisini kullanarak bir spot örneği oluşturur.
Oluşturma sırasında: Belirtilen örnek türü için saatlik 0,25 USD veya altında envanter yoksa oluşturma başarısız olur.
Oluşturduktan sonra: Örnek garantili 1 saatlik koruma süresi boyunca çalışır. Koruma süresi sonunda piyasa fiyatı 0,25 USD'yi aşarsa veya belirtilen örnek türü için envanter yetersiz kalırsa örnek geri alınır.
apiVersion: serving.knative.dev/v1
kind: Service
metadata:
name: helloworld-go
spec:
template:
metadata:
labels:
alibabacloud.com/eci: "true"
annotations:
k8s.aliyun.com/eci-use-specs : "ecs.c6.large" # Specify the ECS instance type.
k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit" # Use the strategy that sets a custom price limit.
k8s.aliyun.com/eci-spot-price-limit: "0.25" # Set the maximum hourly price.
spec:
containers:
- env:
- name: TARGET
value: "Knative"
image: registry.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56
Örnek 2: Talep üzerine yedekli sabit fiyat limiti
Aşağıdaki YAML talep üzerine yedekleme özelliğiyle bir spot örneği oluşturur. Bu yaklaşım maliyet tasarrufu ile erişilebilirliği dengeler.
Oluşturma sırasında: Saatlik 0,05 USD veya altında spot envanteri mevcutsa 1 saatlik koruma süresiyle bir spot örneği oluşturulur. Spot envanteri yoksa bunun yerine otomatik olarak geri alınmayan bir talep üzerine örneği oluşturulur.
Oluşturduktan sonra: Spot örneği koruma süresi sonunda geri alınırsa sanal düğüm bir yedek oluşturur. Değiştirme sırasında spot envanteri hala mevcut değilse bir talep üzerine örneği oluşturulur.
Bir Pod'un talep üzerine moda düşüp düşmediğini kontrol etmek için kubectl describe pod komutunu çalıştırın ve çıktıda SpotDegraded olayını arayın.
apiVersion: serving.knative.dev/v1
kind: Service
metadata:
name: helloworld-go
spec:
template:
metadata:
labels:
alibabacloud.com/eci: "true"
annotations:
k8s.aliyun.com/eci-use-specs : "ecs.c6.large" # Specify the ECS instance type.
k8s.aliyun.com/eci-spot-strategy: "SpotWithPriceLimit" # Use the strategy that sets a custom price limit.
k8s.aliyun.com/eci-spot-price-limit: "0.05" # Set the maximum hourly price.
k8s.aliyun.com/eci-spot-fallback: "true" # Automatically fall back to an on-demand instance if spot inventory is unavailable.
spec:
containers:
- env:
- name: TARGET
value: "Knative"
image: registry.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56
Spot örnekleriyle Knative Hizmeti oluşturma
Aşağıdaki prosedür talep üzerine yedekleme özelliği etkinleştirilmiş SpotAsPriceGo stratejisini kullanan örnek bir Knative Hizmeti oluşturur.
ACK konsolu üzerinden oturum açın. Sol gezinme bölmesinde ACK konsoluClusters seçeneğine tıklayın.
Clusters sayfasında kümenizin adına tıklayın. Sol gezinme bölmesinde Applications > Knative seçeneğine tıklayın.
-
Knative sayfasında Services sekmesine tıklayın. Namespace açılır listesinden default seçeneğini belirleyin ve Create from Template seçeneğine tıklayın. Sample Template açılır listesinden custom seçeneğini belirleyin. Aşağıdaki YAML kodunu düzenleyiciye yapıştırın ve Create seçeneğine tıklayın.
apiVersion: serving.knative.dev/v1 kind: Service metadata: name: helloworld-go spec: template: metadata: labels: alibabacloud.com/eci: "true" annotations: k8s.aliyun.com/eci-use-specs : "ecs.c6.large" # Specify the ECS instance type. k8s.aliyun.com/eci-spot-strategy: "SpotAsPriceGo" # Use the strategy that follows the market price. k8s.aliyun.com/eci-spot-duration: "1" # Protection period in hours. k8s.aliyun.com/eci-spot-fallback: "true" # Fall back to on-demand if spot inventory is unavailable. spec: containers: - env: - name: TARGET value: "Knative" image: registry-vpc.{REGION-ID}.aliyuncs.com/knative-samples/helloworld-go:160e4dc8 # Replace {REGION-ID} with your cluster's region ID, such as cn-hangzhou.Bu yapılandırma aşağıdaki davranışa sahip bir
ecs.c6.largespot örneği oluşturur:Oluşturma sırasında spot envanteri mevcut değilse bunun yerine bir talep üzerine örneği oluşturulur.
Oluşturduktan sonra örnek garantili 1 saatlik koruma süresi boyunca çalışır.
Koruma süresi sonunda piyasa fiyatı geçerli teklifi aşarsa veya envanter yetersiz kalırsa spot örneği geri alınabilir.
eci-spot-fallback: "true"ayarı sanal düğüm Pod'u değiştirdiğinde spot envanteri mevcut değilse bir talep üzerine örneği oluşturulmasını sağlar.
Spot örneği kesintilerini yönetme
Alibaba Cloud bir spot örneği geri alınmadan yaklaşık 3 dakika önce bir SpotToBeReleased olayı gönderir ve ContainerInstanceExpired pod koşulunu true olarak ayarlar.
Aşağıdaki şekil bir bildirim örneğini gösterir.
Bu 3 dakikalık süre zarfında Pod sonlandırılmadan önce devam eden isteklerin tamamlanmasını sağlamak amacıyla sorunsuz işlemeyi yapılandırabilirsiniz.
API tabanlı tahliyeyi yapılandırma
Spot Pod'larınıza k8s.aliyun.com/eci-spot-release-strategy: api-evict ek açıklamasını ekleyin. Sanal düğüm bir SpotToBeReleased olayı aldığında Pod'u tahliye etmek için Eviction API çağrısını yapar. Bu işlem PodDisruptionBudget (PDB) ve terminationGracePeriodSeconds ayarlarınızı dikkate alır.
Tahliye sırası şu şekildedir:
Sanal düğüm bir
SpotToBeReleasedolayı alır ve Eviction API'sini çağırır.API sunucusu Pod için yapılandırılan PDB'yi kontrol eder.
Pod'un silme zaman damgası ayarlanır ve bekleme süresi başlar.
Sanal düğümdeki kubelet Pod için sorunsuz kapatma işlemini başlatır.
Kontrol düzlemi Pod'u ilgili Endpoints ve EndpointSlices kaynaklarından ayırır.
Bekleme süresi dolduğunda kubelet Pod'u zorla sonlandırır.
Kubelet sisteme Pod'u silmesi için bildirimde bulunur.
API sunucusu Pod'u siler.
Knative ortamında queue-proxy sidecar uygulaması uygulama konteyneri durmadan önce tüm devam eden isteklerin tamamlanmasını bekleyerek 4. adımda sorunsuz bir kapatma sağlar.
Spot örneği olaylarını izleme
SpotToBeReleased olayını görüntüleme
Kesinti uyarısını Events bölümünde görmek için kubectl describe komutunu çalıştırın:
Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Warning SpotToBeReleased 3m32s kubelet, eci Spot ECI will be released in 3 minutes
Alternatif olarak tüm son olayları listelemek için kubectl get events komutunu çalıştırın:
LAST SEEN TYPE REASON OBJECT MESSAGE
3m39s Warning SpotToBeReleased pod/pi-frmr8 Spot ECI will be released in 3 minutes
Kesinti olaylarına otomatik yanıtlar yapılandırma hakkında daha fazla bilgi için bkz. Sorunsuz sonlandırma.
Geri alma sonrası durumu kontrol etme
Bir spot örneği geri alındıktan sonra örnek bilgileri korunur. Pod durumu BidFailed olarak değişir ve hata nedeni BidFailed olur.
Durumu görmek için kubectl get pod komutunu çalıştırın:
NAME READY STATUS RESTARTS AGE
pi-frmr8 1/1 BidFailed 0 3h5m
Tam durum ayrıntılarını görmek için kubectl describe komutunu çalıştırın:
Status: Failed
Reason: BidFailed
Message: The pod is spot instance, and have been released at 2020-04-08T12:36Z
Sonraki adımlar
Uygulamanız soğuk başlatma gecikmesine karşı hassassa düşük özellikli patlayabilir bir örneği sürekli çalışır durumda tutmak için rezerve edilmiş örnekleri kullanmayı düşünün. Bu yaklaşım başlatma süresini kısaltırken maliyetleri düşük tutar. Daha fazla bilgi için bkz. Rezerve edilmiş örnekleri yapılandırma.