Kubernetes Üzerinde Yapay Zeka/Makine Öğrenimi Oluşturun
Bulut Yerel Yapay Zeka, müşterilerin bir yapay zeka platformu oluşturmasına, yapay zeka iş yüklerini hızlandırmasına ve MLOps süreçlerini basitleştirmesine yardımcı olmak için temel özellikler ve hizmetler sunar.
Kaynak Ölçeklenebilirliği
GPU ve CPU kullanımını iyileştirir ve heterojen kaynakların ölçeklenebilirliğini artırır.
Verimli Zamanlama
Yapay zeka ve büyük veri görevlerini verimli bir şekilde zamanlar ve tüm yapay zeka üretim süreci için uçtan uca destek sağlar.
Hızlandırılmış Veri Erişimi
Veri erişim performansını iyileştirir ve heterojen veri kaynaklarını entegre eder.
Gözlemlenebilirlik
Görevleri, kullanıcı kotalarını ve kaynakları izlemek için kullanılan çeşitli yöntemleri destekler.
Esneklik ve Genişletilebilirlik
Bileşen tabanlı genişletilebilir mimariyi değiştirerek özel bir bulut yerel yapay zeka platformu oluşturmanıza olanak tanır.
Standart Kubernetes
Standart Kubernetes üzerinde çalışır ve genel bulutlar, Apsara Stack, hibrit bulutlar ve ACK uç kümeleriyle uyumludur.
Özellikler
Heterojen Kaynakların Verimli Kullanımı
GPU zamanlaması, GPU paylaşımı ve bellek yalıtımını destekler. GPU'ları tahsis etmek ve GPU kaynak tüketimini çok boyutlu izlemek için çeşitli politikalar yapılandırabilirsiniz.
İyileştirilmiş Veri Erişim Performansı
Bilişim ve depolamayı ayırır. Fluid, veri erişimini hızlandırmak için bulut yerel yapay zeka ve büyük veri uygulamalarına yönelik verileri soyutlar. Ayrıca verilerin güvenlik yalıtımını güçlendirir ve farklı depolama türlerinden kaynaklanan veri silolarını ortadan kaldırır.
Yapay Zeka Görev Zamanlaması
Yapay zeka görevlerinin gereksinimlerini karşılamak ve küme kaynak kullanımını artırmak için toplu zamanlama, kapasite zamanlaması ve binpack zamanlaması gibi çeşitli zamanlama politikalarını destekler.
Heterojen Kaynaklar için Auto Scaling
Bulut kaynağı israfını önlemek için akıllı yük kaydırma gerçekleştirir. Bulut Yerel Yapay Zeka ayrıca elastik model eğitimi ve model tabanlı çıkarımı da destekler.
Gözlemlenebilir Küme Görevleri, Kullanıcılar ve Kaynaklar
Girdileri ve çıktıları değerlendirmenize yardımcı olmak için görevler, kullanıcı kotaları ve küme kaynaklarına yönelik izleme panoları sağlar.
Senaryolar
Avantajlar
-
Proje Gruplarına Dayalı Kaynak Tahsisi
Proje üyelerini yalıtılmış gruplara ayırabilirsiniz. Ardından kaynakları gruplara göre tahsis edip yalıtabilir veya farklı grupların izinlerini yönetebilirsiniz.
-
Kullanıcılar Arasında Yalıtım ve Paylaşım
İş gereksinimlerinize göre küme kaynaklarını kullanıcı gruplarına tahsis edebilirsiniz. Ayrıca her gruptaki kullanıcıların izinlerini yönetebilirsiniz. İzinler, kullanıcıların işler üzerindeki okuma ve yazma izinlerini ve işlerin veriler üzerindeki okuma ve yazma izinlerini kapsar.
-
Elastik Kotalar
Kaynakları paylaşmak ve kullanıcılara uygun şekilde tahsis etmek için kapasite zamanlamasında elastik kota gruplarını kullanabilirsiniz. Bu durum kümelerin genel kaynak kullanımını artırır.
Avantajlar
-
Veri Kümesi Soyutlaması için Yerel Destek
Bulut Yerel Yapay Zeka, veri yoğun uygulamaların ihtiyaç duyduğu temel yetenekleri işlevler halinde paketler. Bu sayede verimli veri erişimi sağlanır ve heterojen veri yönetim maliyetleri düşürülür.
-
Bulutta Veri Ön Yükleme ve Hızlandırma
Fluid, bulutta veri ön yükleme ve hızlandırmayı desteklemek için dağıtık önbellekleme motorlarını kullanır. Bu sayede önbelleğe alınmış verinin gözlemlenebilirliği, taşınabilirliği ve otomatik yatay ölçeklenebilirliği sağlanır.
-
Veri ve Uygulamaların İşbirlikçi Orkestrasyonu
Uygulamaları ve verileri bulutta zamanlarken, genel performansı artırmak için orkestrasyonu özelliklere ve konumlara göre koordine edebilirsiniz.
-
Ad Alanı Yönetimi
Tek bir veri kümesinde birden fazla kaynaktan eş zamanlı olarak verilere erişebilirsiniz. Veri kaynakları arasında Object Storage Service (OSS), Hadoop Dağıtık Dosya Sistemi (HDFS), Ceph ve diğer depolama hizmetleri bulunur. Bu özellik hibrit bulut senaryoları için uygundur.
-
Heterojen Veri Kaynaklarının Yönetimi
Tek bir veri kümesinde birden fazla kaynaktan eş zamanlı olarak verilere erişebilirsiniz. Veri kaynakları arasında Object Storage Service (OSS), Hadoop Dağıtık Dosya Sistemi (HDFS), Ceph ve diğer depolama hizmetleri bulunur. Bu özellik hibrit bulut senaryoları için uygundur.
Avantajlar
-
GPU Paylaşımı ve Zamanlama
GPU paylaşımı ve zamanlamasını kullanarak tek bir GPU üzerinde birden fazla konteyner çalıştırabilirsiniz.
-
Topoloji Farkında GPU Zamanlaması
GPU zamanlaması sırasında uygun GPU kombinasyonunu seçerek optimum eğitim hızına ulaşabilirsiniz.
-
Binpack Zamanlaması
İşler başlangıçta tek bir düğüme tahsis edilir. Düğümde yetersiz kaynak olduğunda işler başka bir düğüme aktarılır. Bu durum düğümler arası veri iletimini en aza indirir ve kaynak parçalanmasını önler.
-
Toplu Zamanlama
Kaynaklar yalnızca işin tüm alt görevleri için yeterli olduğunda tahsis edilir. Bu sayede büyük işlerin küçük işlerin kaynaklarını ele geçirdiği kaynak kilitlenmeleri önlenir.
Avantajlar
-
Arena AI Toolkit
Go, Java ve Python için komut satırları ve SDK'lar heterojen temel kaynaklarla uyumludur. Bu sayede ortamları yönetebilir, görevleri zamanlayabilir, GPU'ları tahsis edebilir ve kaynakları basitleştirilmiş bir şekilde izleyebilirsiniz.
-
Araç takımı TensorFlow, PyTorch, Caffe, Message Passing Interface (MPI) ve Hovorod gibi çeşitli derin öğrenme çerçeveleriyle uyumludur. Araç takımı; eğitim veri kümesi yönetimi, yapay zeka görev yönetimi, model geliştirme, dağıtık eğitim, değerlendirme ve çıkarım modeli yayınını kapsayan Makine Öğrenimi Modeli Operasyonelleştirme Yönetimi (MLOps) sürecinin tamamını kapsar.
-
Ar-GE konsolu, tüm Ar-GE yaşam döngüsü boyunca yönetim işlemlerini gerçekleştirebileceğiniz isteğe bağlı bir algoritma geliştirme ortamı sunar. Bu işlemler arasında Not Defteri yönetimi, yapay zeka görev yönetimi, model yönetimi ve model yayını yer alır.
Avantajlar
-
Gerçek Zamanlı GPU Kullanımı Panoları
Kaynak kullanımını birden fazla boyutta gerçek zamanlı olarak izleyebilirsiniz.
-
Veri Kümesi Yönetimi ve Hızlandırma
Verimliliği artırmak için mevcut veri kümelerine tek tıklamayla erişimi hızlandırabilirsiniz.
-
Kullanıcı ve Kullanıcı Grubu Yönetimi
Projelere göre kullanıcılar ve kullanıcı grupları oluşturabilir, kullanıcı izinlerini ve kotalarını ince taneli bir şekilde yönetebilirsiniz.
-
Elastik Kota Yönetimi
Kapasite zamanlaması, kullanıcı gruplarının kaynakları dinamik olarak paylaşmasına olanak tanır.
