Serverless iş yüklerini Kubernetes üzerinde dağıtmak genellikle Deployment, Service ve Ingress nesnelerini ayrı ayrı yönetmenizi ve her güncelleme için bunları birbirine bağlamanızı gerektirir. Knative Service; dağıtım, trafik yönlendirme, istek tabanlı otomatik ölçeklendirme ve çoklu sürüm yönetimini tek bir kaynakta otomatik olarak hallederek bu süreci basitleştirir.
Temel kavramlar
Bir Knative Service aşağıdaki dört alt kaynağı otomatik olarak yönetir:
| Kaynak | Rolü |
|---|---|
| Configuration | İş yükü yapılandırmasını (konteyner görüntüsü, ortam değişkenleri ve kaynak sınırları) tutar. Her değişiklik yeni bir Revision tetikler. |
| Revision | Bir Configuration'ın belirli bir andaki değişmez anlık görüntüsüdür. Her güncelleme yeni bir Revision oluşturur; bu sayede geri dönebileceğiniz veya trafiği bölebileceğiniz bir sürüm geçmişiniz olur. |
| Route | Gelen trafiği, yapılandırılabilir yüzdelerle bir veya daha fazla Revision'a eşler. |
| Tag | Belirli bir Revision üzerinde isimlendirilmiş bir etikettir. Bir tag atandığında Knative, o Revision için bağımsız bir erişim URL'si oluşturur. Bu özellik, Revision'ı canlı trafiğe maruz bırakmadan canary doğrulaması yapmanıza olanak tanır. |
Nasıl çalışır?
İstek tabanlı otomatik ölçeklendirme
CPU ve bellek ölçümleri genellikle gerçek kullanıcı yükünün gerisinde kalır. Knative bunun yerine doğrudan hizmet aktarım hızını yansıtan eşzamanlılık (concurrency) ve saniye başına istek (RPS) değerlerine göre ölçeklendirme yapar.
Knative Serving, her pod'a bir queue-proxy konteyneri enjekte eder. queue-proxy, eşzamanlılık ve RPS ölçümlerini toplar; autoscaler bu değerleri periyodik olarak okuyarak Deployment'ın pod sayısını buna göre ayarlar.
İstek akışı şu şekildedir:
Bir istek HTTP Router'a ulaşır; Router isteği Knative'in Serverless Service (SKS) bileşenine iletir. SKS, Kubernetes Service kaynaklarının Knative tarafından soyutlanmış halidir ve istekleri farklı arka uç uç noktalarına yönlendirir.
-
SKS, aktif pod sayısına bağlı olarak bir yönlendirme modu seçer:
Serve modu: Aktif pod'lar mevcuttur. İstekler doğrudan bu pod'lara gider.
Proxy modu: Pod sayısı sıfıra ölçeklendirilmiştir. İstekler, onları alan ve tamponlayan activator bileşenine yönlendirilir.
Activator, istekleri alır, eşzamanlılık ölçümlerini kaydeder ve bunları autoscaler'a bildirir.
Autoscaler, ölçümleri önceden belirlenmiş eşiklerle karşılaştırır. Ölçeğin büyütülmesi gerektiğinde API sunucusuna bir istek gönderir.
API sunucusu Deployment'ı günceller ve yeni pod'lar oluşturur.
Activator, yeni pod'ların hazır olduğunu tespit ettiğinde tamponlanan istekleri bu pod'lara iletir.
Yapılandırma ayrıntıları için bkz. Trafik dalgalanmalarına karşı dayanmak için otomatik ölçeklendirmeyi etkinleştirin.
Otomatik sıfıra ölçeklendirme
Bir hizmet trafik almadığında Knative, kaynakları serbest bırakmak için pod sayısını otomatik olarak sıfıra ölçeklendirir. Bir sonraki istek geldiğinde autoscaler pod'ları yeniden ölçeklendirir ve activator, bir pod hazır olana kadar isteği bekletir.
Mod geçişleri:
Serve'den Proxy'ye: İstek hızı sıfıra düştüğünde autoscaler Proxy moduna geçer ve pod'ları sıfıra ölçeklendirir.
Proxy'den Serve'e: Yeni bir istek geldiğinde autoscaler ölçeği büyütür. Pod'lar hazır hale geldikten sonra mod tekrar Serve'e döner ve activator isteği iletir.
Yapılandırma ayrıntıları için bkz. Trafik dalgalanmalarına karşı dayanmak için otomatik ölçeklendirmeyi etkinleştirin.
Çoklu sürüm yönetimi ve canary dağıtımları
Her Configuration güncellemesi benzersiz ve değişmez bir Revision oluşturur. Route'lar, trafiği yapılandırılabilir yüzdelerle Revision'lar arasında dağıtarak yeniden dağıtım yapmadan geri alma ve canary dağıtımı yetenekleri sunar.
Örnek: Revision V1'i oluşturun, ardından Configuration'ı güncelleyerek Revision V2'yi üretin. Trafiğin %70'ini V1'e, %30'unu V2'ye gönderen bir Route yapılandırın. V2 tüm trafiğin %100'ünü yönetene kadar yüzde oranlarını kademeli olarak değiştirin.
YAML örnekleri
Aşağıdaki örnekler yaygın Knative Service yapılandırmalarını kapsamaktadır.
Temel hizmet
Tek bir konteyner içeren minimal bir Knative Service:
apiVersion: serving.knative.dev/v1
kind: Service
metadata:
name: helloworld-go
spec:
template:
spec:
containers:
- image: registry-vpc.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56
env:
- name: TARGET
value: "Knative"
Trafik bölme (canary dağıtımı)
Trafiğin %70'ini kararlı bir Revision'a, %30'unu ise yeni bir Revision'a yönlendirin:
apiVersion: serving.knative.dev/v1
kind: Service
metadata:
name: helloworld-go
spec:
template:
spec:
containers:
- image: registry-vpc.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56
traffic:
- revisionName: helloworld-go-v1
percent: 70
- revisionName: helloworld-go-v2
percent: 30
Tag ile canary doğrulaması
Canlı trafiği yönlendirmeden test amacıyla yeni bir Revision dağıtın. staging tag'i, doğrulama için kullanabileceğiniz bağımsız bir uç nokta oluşturur:
apiVersion: serving.knative.dev/v1
kind: Service
metadata:
name: helloworld-go
spec:
template:
spec:
containers:
- image: registry-vpc.cn-hangzhou.aliyuncs.com/knative-sample/helloworld-go:73fbdd56
traffic:
- revisionName: helloworld-go-v1
percent: 100
- revisionName: helloworld-go-v2
percent: 0
tag: staging
Bir tag ile percent: 0 ayarlamak, Revision'ı canlı trafikten uzak tutarken Knative'in o Revision için özel bir URL oluşturmasını sağlar. Bu URL'yi kullanarak Revision'ı doğrudan test edebilirsiniz.
Canary dağıtımı prosedürleri için bkz. Trafik bölme temelinde canary dağıtımı gerçekleştirin.