Stable Diffusion WebUI, ComfyUI, RAG ve TensorRT gibi GPU hızlandırmalı yapay zeka uygulamalarını, daha hızlı geliştirme ve teslimat için konteyner görüntüleri kullanarak işlev olarak dağıtın.
İşlev oluşturma
Function Compute konsolu nda oturum açın. Sol gezinme bölmesinde seçeneğini belirleyin.
Üst menü çubuğundan bir bölge seçin. Function List sayfasında Create Function düğmesine tıklayın.
Açılan iletişim kutusunda GPU Function öğesini seçin ve ardından Create GPU Function düğmesine tıklayın.
-
Create GPU Function sayfasında aşağıdaki parametreleri belirtin ve Create düğmesine tıklayın.
Basic Configurations: Bir Function Name girin. Ad, aynı hesap ve bölge içinde benzersiz olmalı ve adlandırma kurallarına uygun olmalıdır.
-
Elastic Configurations: Bir örnek türü seçin. Sağlanmış ve talep üzerine çalışan örnekleri karıştıramazsınız; tür oluşturulduktan sonra değiştirilemez.
-
Talep üzerine çalışan örnekler
Yapılandırma Öğesi
Açıklama
Örnek
Instance Type
On-demand Instance seçin. Örnekler, istek hacmine göre ölçeklenir ve istek olmadığında serbest bırakılır. Kullanım başına faturalandırılır.
On-demand Instance
GPU Card Type
Bir GPU kart türü seçin. Kullanılabilir teknik özellikler türe göre değişir (Örnek türleri ve teknik özellikleri).
Ada serisi
Specifications
GPU Memory, vCPU, Memory ve Disk teknik özelliklerini ayarlayın. Faturalandırma, teknik özellik × süre bazında yapılır (Faturalandırmaya genel bakış).
Not-
Tüm disk dizinleri yazılabilirdir ve aynı alanı paylaşır.
-
Örnek geri alındığında disk verileri kaybolur. Kalıcılık için bir NAS dosya sistemi (NAS dosya sistemi yapılandırma) veya OSS paketi (Object Storage Service yapılandırma) bağlayın.
-
GPU Belleği: 48 GB
-
vCPU: 8 vCPU
-
Bellek: 64 GB
-
Disk: 512 MB (faturalandırılmaz, Function Compute 10 GB disk alanı için ücretsiz kota sağlar)
Minimum Instances
Gecikmeye duyarlı iş yükleri için Elastic Instance seçin ve soğuk başlatma gecikmesini azaltmak için minimum değeri 1 veya daha yüksek ayarlayın.
NotHiçbir esnek ilke yapılandırılmamış veya etkin değilse minimum örnek sayısı bu değere varsayılan olarak ayarlanır.
Birden fazla etkin esnek ilke bulunduğunda en yüksek Minimum Number Of Instances değeri, etkili Minimum Number Of Instances değeri olarak kullanılır.
1
Concurrency Per Instance
Tek bir GPU örneğinin birden çok isteği eş zamanlı olarak işlemesine olanak tanır. Örnek başına eşzamanlılığı yapılandırma.
-
-
Sağlanmış örnekler
Yapılandırma Öğesi
Açıklama
Örnek
Instance Type
Provisioned Instance seçin. Örnekler, önceden satın alınmış bir kaynak havuzundan sağlanır.
Öngörülebilir maliyetler, düşük gecikme süresi ve yüksek kullanım oranları için en uygun seçenektir.
Provisioned Instance
Provisioned Resource Pool
İşlev için önceden satın alınmış bir örnek havuzu. Kapasite yetersizse Actions sütunundaki Scale-out seçeneğine tıklayın. Sağlanmış kaynak havuzları (abonelik).
-
Provisioned Resource Pool: fc-pool-****
-
GPU Card Type: Ada
Specifications
GPU Memory, vCPU, Memory ve Disk teknik özelliklerini ayarlayın. Faturalandırma, teknik özellik × süre bazında yapılır (Faturalandırmaya genel bakış).
Not-
Tüm disk dizinleri yazılabilirdir ve aynı alanı paylaşır.
-
Örnek geri alındığında disk verileri kaybolur. Kalıcılık için bir NAS dosya sistemi (NAS dosya sistemi yapılandırma) veya OSS paketi (Object Storage Service yapılandırma) bağlayın.
GPU Belleği: 48 GB
vCPU: 8 vCPU
Bellek: 64 GB
Disk: 512 MB (faturalandırılmaz, Function Compute 10 GB disk alanı için ücretsiz kota sağlar)
Number Of Provisioned Instances
Havuzun mevcut kapasitesinden örnek tahsis edin.
1
Concurrency Per Instance
Tek bir GPU örneğinin birden çok isteği eş zamanlı olarak işlemesine olanak tanır. Örnek başına eşzamanlılığı yapılandırma.
20
-
-
-
Function Code: İşlevin çalışma zamanı ortamını ve kodunu yapılandırın.
Yapılandırma Öğesi
Açıklama
Örnek
Runtime Environment
-
Use Sample Image: Hızlı dağıtım için bir Function Compute örnek görüntüsü seçin. Aşağıdaki Container Image bölümünden görüntüyü seçin.
-
Use Image from ACR: Container Image altında Select Image From ACR seçeneğine tıklayın. Panelde Container Registry instance ve ACR image repository seçeneklerini belirleyin, ardından hedef görüntü için Select düğmesine tıklayın. Özel görüntü kullanan işlev oluşturma.
Container Image
Hedef görüntüyü seçin.
SpringBoot Web Application Sample Image
Startup Command
Başlatma komutu. Belirtilmemişse görüntünün Entrypoint/CMD değerine varsayılan olarak ayarlanır.
None
Listener Port
HTTP sunucunuzun dinlediği bağlantı noktası.
9000
Execution Timeout
Zaman aşımını ayarlayın. Varsayılan Execution Timeout: 60 saniye. Maksimum: 86.400 saniye.
60
-
-
Instance Prefetch: Yapay zeka çıkarımı senaryolarında ilk istek için soğuk başlatma gecikmesini ortadan kaldırmak üzere modeli önceden yükler.
Yapılandırma Öğesi
Açıklama
Örnek
Instance Prefetch
Instance Prefetch
Örnek başladıktan sonra ancak istekleri işlemeye başlamadan önce modeli yüklemek için bir betik çalıştırır veya bir arayüz çağırır.
Enabled
Timeout
Initializer hook'u için zaman aşımı.
60
Prefetch Program Type
İki hook türü bulunur: Execute Instruction ve Invoke Code.
Execute Instruction
Instruction Content
Çalıştırılacak talimat. Özel kabukları destekler:
/bin/bash,/bin/sh,/bin/csh,/bin/zsh. Çalışma zamanının seçilen kabuğu desteklediğinden emin olun. -
İzinler, ağ ve depolama: İşlevin erişim rolünü, ağını ve depolama bağlantılarını yapılandırın.
Parametre Açıklama Örnek Function role Function Compute'un diğer Alibaba Cloud hizmetlerine erişmek için geçici kimlik bilgileri oluşturmak amacıyla kullandığı bir RAM rolü. Kurulum ayrıntıları için bkz. Function Compute'a diğer Alibaba Cloud hizmetlerine erişim izni verme. mytestroleAccess to VPC İşlevin sanal özel cloud (VPC) içindeki kaynaklara erişmesine izin vermek için etkinleştirin. Yapılandırma ayrıntıları için bkz. Ağı yapılandırma. Enabled VPC Access to VPC etkinleştirildiğinde gereklidir. Mevcut bir VPC seçin veya yeni bir tane oluşturun. fc.auto.create.vpc.1632317****vSwitch Access to VPC etkinleştirildiğinde gereklidir. Mevcut bir vSwitch seçin veya yeni bir tane oluşturun. fc.auto.create.vswitch.vpc-bp1p8248****Security group Access to VPC etkinleştirildiğinde gereklidir. Mevcut bir güvenlik grubu seçin veya yeni bir tane oluşturun. fc.auto.create.SecurityGroup.vsw-bp15ftbbbbd****Allow default NIC to access internet İşlevin varsayılan ağ arabirim denetleyicisi (NIC) üzerinden internete erişip erişemeyeceğini kontrol eder. Enabled Mount a NAS file system Birden çok çıkarım işlevi tarafından kullanılan model dosyaları gibi verileri işlevler arasında kalıcı olarak paylaşmak için bir NAS dosya sistemi bağlayın. Otomatik yapılandırma ile sistem Alibaba-Fc-V3-Component-Generatedadlı bir Genel Amaçlı NAS dosya sistemi kullanır veya oluşturur. Ayrıntılar için bkz. NAS dosya sistemi yapılandırma.Enabled Mount OSS Günlükleri, iş dosyalarını ve diğer verileri kalıcı olarak depolamak için bir OSS paketi bağlayın. Ayrıntılar için bkz. Object Storage Service (OSS) yapılandırma. Enabled ÖnemliStatik genel IP adresi kullanırken Allow default NIC to access internet seçeneğini devre dışı bırakın. Aksi takdirde statik genel IP adresi etkili olmaz. Ayrıntılar için bkz. Statik genel IP adresi yapılandırma.
-
Günlük izleme ve izlenebilirlik
Parametre Açıklama Örnek Log monitoring Hata ayıklama, arıza analizi ve veri analitiği için işlev yürütme günlüklerini Simple Log Service'e kalıcı olarak kaydeder. Automatic Configuration bölge başına bir serverless-<region_id>adlı günlük projesi kullanır veya oluşturur. Custom Configuration ise Log Service Project ve Logstore belirtmenize olanak tanır. Ayrıntılar için bkz. Günlük kaydı özelliğini yapılandırma.Enabled -
Diğer yapılandırmalar
Parametre Açıklama Örnek Time zone İşlev için saat dilimi. Bu ayar, seçilen değere sahip bir TZortam değişkeni ekler.UTCTag İşlevleri gruplamak ve yönetmek için etiketler. Her etiket bir anahtar ve değer gerektirir. Ayrıntılar için bkz. İşlev etiketleri. key : valueResource group İşlevin ait olduğu kaynak grubu. Ayrıntılar için bkz. Kaynak grupları. Default Resource Group Environment variables İşlevin yürütme ortamına enjekte edilen anahtar-değer çiftleri; kodu değiştirmeden işlev davranışını değiştirmenize olanak tanır. Ayrıntılar için bkz. Ortam değişkenlerini yapılandırma. {"BUCKET_NAME": "MY_BUCKET", "TABLE_NAME": "MY_TABLE"}
İşlevi düzenleme
Oluşturma işleminden sonra işlevin ayrıntılar sayfasındaki Configuration sekmesinden işlev görüntüsünü değiştirebilirsiniz.

Diğer ayarlar (ortam değişkenleri, günlük depolama): İşlev yapılandırma.
İşlev silme
Function Compute konsolu nda oturum açın. Sol gezinme bölmesinde Function Management > Function seçeneğini belirleyin.
İlgili işlevi bulun ve Actions sütunundaki Delete Function seçeneğine tıklayın.
Onay iletişim kutusunda işlevin tetikleyiciler veya minimum örnek esnek ilkeleri gibi bağlı kaynakları olmadığını doğrulayın, ardından silmeyi onaylayın.
İşlevin ARN'sini alma
Aliyun Resource Name (ARN), bir Alibaba Cloud kaynağını benzersiz şekilde tanımlar ve işlevlere koddan veya diğer hizmetlerden başvurmanıza olanak tanır.
Function Compute konsolu nda oturum açın. Sol gezinme bölmesinde Function Management > Function seçeneğini belirleyin.
Üst menü çubuğundan bir bölge seçin. Hedef işleve tıklayın.
Function Details sayfasında sağ taraftaki Copy ARN düğmesine tıklayın.
Başvurular
Function Compute dört işlev türü sunar (olay, web, görev, GPU). Teknoloji seçim kılavuzu.
Konsolun yanı sıra Function Compute, işlev yönetimi için API'ler ve Serverless Devs sağlar. CreateFunction ve Serverless Devs Hızlı Başlangıç.
Bir işlev yürütmesi zaman aşımına uğrarsa bkz. "Function timeout" hatası oluşursa ne yapmalıyım?.
Nadiren çağrılan işlevlerde çağrı süreleri daha uzun olabilir (Neden nadiren kullanılan işlevlerin çağrı süreleri uzundur?). Bunu azaltmak için minimum örnek sayısını 1 veya daha yüksek ayarlayın.