Tüm Senaryolarda Heterojen Hesaplama Desteği
Elastic GPU Service, kaynakları esnek bir şekilde tahsis etmenize, sisteminizi elastik olarak ölçeklendirmenize, hesaplama gücünü artırmanıza ve yapay zeka ile ilgili iş maliyetlerinizi düşürmenize yardımcı olmak için yazılım ve donanımı birleştiren eksiksiz bir hizmet sistemi sunar. Derin öğrenme, video kodlama ve kod çözme, video işleme, bilimsel hesaplama, grafiksel görselleştirme ve bulut oyunları gibi senaryolar için geçerlidir.
Elastic GPU Service, GPU hızlandırmalı hesaplama yetenekleri ve kullanıma hazır, ölçeklenebilir GPU hesaplama kaynakları sağlar. GPU'lar, özellikle kayan nokta ve paralel hesaplamalarda matematiksel ve geometrik hesaplamaları gerçekleştirmede benzersiz avantajlara sahiptir. GPU'lar, CPU muadillerinin 100 katı hesaplama gücü sağlar.
Çeşitli Hesaplama Yetenekleri
Büyük ölçekli paralel hesaplama için kullanılabilecek çok sayıda aritmetik mantık birimine (ALU) sahiptir. Elastic GPU Service, en yeni GPU hızlandırma çiplerini kullanır ve iş amaçlarına (yapay zeka, grafikler, kod dönüştürme ve şifreleme gibi) hizmet etmek için çeşitli hızlandırıcı kartlar (FPGA, GPU ve ASIC gibi) sağlar.
Kullanım Kolaylığı
GPU kaynakları farklı coğrafi konumlarda küresel olarak dağıtılmıştır. Basit mantık kontrol birimleri, sisteminizi iş gereksinimlerinize göre ölçeklendirmenize olanak tanır. Elastic GPU Service ayrıca yardımcı araçlar (AIACC, FastGPU ve cGPU gibi) da sağlar.
Yüksek Ağ Performansı
Sunucu performansını artırmak ve I/O gecikmesini azaltmak için SHENLONG mimarisini kullanır. GPU, VPC'ler üzerinden 24 milyona kadar PPS ve 64 Gbit/s'ye kadar bant genişliğini destekler. Birden fazla iş parçacığının hesaplama görevlerini işlemek için paralel olarak çalıştığı yüksek aktarım hızı gerektiren senaryolar için uygundur.
Hesaplama Verimliliğini Artıran GPU Yazılımı
AIACC-Training
Alibaba Cloud AIACC-Training, Alibaba Cloud ortamları için optimize edilmiş bir yapay zeka hızlandırıcısıdır. Yapay zeka dağıtık eğitiminin verimliliğini ve ağ bant genişliği kullanımını önemli ölçüde artırır. AIACC-Training iki dünya rekoru kırmıştır:
Stanford Üniversitesi tarafından düzenlenen DAWNBench ImageNet yarışmasında en hızlı eğitim hızı
Stanford Üniversitesi tarafından düzenlenen DAWNBench ImageNet yarışmasında en düşük eğitim maliyeti
Daha Fazla Bilgi >
Özellikler
-
Ana Çerçeveleri DesteklerDağıtık eğitim çerçeveleri: TensorFlow, PyTorch, MXNet ve Caffe
-
%50-%300 Performans Artışı
Yoğun bant genişliği gerektiren ağ modelleri
-
Bir veya Daha Fazla Çoklu GPU Sunucusu İçin Yüksek Performanslı İletişim
FP16 gradyan sıkıştırma ve karışık hassasiyetli sıkıştırmayı destekler.
-
MXNet için API Uzantıları
InsightFace türünde veri paralelliğini ve model paralelliğini destekler.
-
RDMA Ağları İçin Derin Optimizasyon
Karma bağlantı iletişimi (RDMA ve VPC)
En İyi Birlikte Çalıştığı Ürünler
AIACC-Inference
Alibaba Cloud AIACC-Inference, Alibaba Cloud ortamları için optimize edilmiş bir yapay zeka hızlandırıcısıdır. GPU kullanım oranını ve çıkarım performansını önemli ölçüde artırır. AIACC-Inference iki dünya rekoru kırmıştır:
Stanford Üniversitesi tarafından düzenlenen DAWNBench ImageNet yarışmasında en düşük çıkarım gecikmesi
Stanford Üniversitesi tarafından düzenlenen DAWNBench ImageNet yarışmasında en düşük çıkarım maliyeti
Daha Fazla Bilgi >
Özellikler
-
Birden Fazla Çerçeveyi Destekler
TensorFlow, PyTorch, MXNet ve diğer derin öğrenme çerçeveleri, çıkarım performansını artırmak için modelleri Open Neural Network Exchange (ONNX) formatında dışa aktarabilir.
-
%30-%400 Performans Artışı
Hesaplama yoğunluğu yüksek ağ modelleri
-
Çoklu Model Hassasiyeti Desteği
FP32 ve FP16 üzerinde model optimizasyonu
En İyi Birlikte Çalıştığı Ürünler
GPU Küme Dağıtım Aracı
Alibaba Cloud FastGPU, GPU kümeleri için birkaç tıklamayla bulutta GPU hesaplama kaynakları dağıtmanızı sağlayan hızlı dağıtım araçları setidir. Yapılandırması kolaydır ve her yerde rahatça kullanılabilir. GPU kümelerinin hızlı dağıtımı için zamandan tasarruf sağlayan, maliyet etkin ve kullanımı kolay bir çözüm sunar.
Daha Fazla Bilgi >
Özellikler
-
Hızlı Dağıtım
GPU kümelerinde çevrimdışı eğitim ve çıkarım betiklerinin hızlı dağıtımı için API işlemleri
-
Kolay Yönetim
GPU kümelerinin durumunu ve yaşam döngüsünü yönetmek için komut satırı aracı
-
Verimli ve Zamandan Tasarruf
Alibaba Cloud'un IaaS katmanında hesaplama, depolama ve ağ için dağıtım işlemi yapmanıza gerek yoktur. Küme kaynaklarını aldığınızda uygun ortam otomatik olarak sağlanır.
En İyi Birlikte Çalıştığı Ürünler
Konteynerler İçin GPU Paylaşım Yazılımı
GPU kaynaklarını bölerek ve atayarak birden fazla konteynerin tek bir GPU kullanmasını sağlar. cGPU, tek bir GPU üzerinde birden fazla konteyner çalıştırabilir ve uygulamaları izole eder. Böylece GPU donanım kaynağı kullanımı artar.
Daha Fazla Bilgi >
Özellikler
-
GPU Bölme
GPU kullanım oranını artırmak için GPU kaynaklarını böler.
-
GPU Paylaşımı
Birden fazla yapay zeka uygulamasında GPU paylaşımıyla maliyet tasarrufu
-
Esneklik
Uygulama gereksinimlerini karşılamak için hesaplama gücünü ve GPU belleğini esnek şekilde böler.
En İyi Birlikte Çalıştığı Ürünler
Elastic GPU Service ile kendi yönettiğiniz GPU hızlandırmalı sunucuların karşılaştırılması
| Öğe | Elastic GPU Service | Kendi Yönettiğiniz GPU Hızlandırmalı Sunucu |
|---|---|---|
|
|
· Kolayca bir veya daha fazla GPU hızlandırmalı örnek oluşturmanızı sağlar · Esnek örnek yapılandırma değişiklikleri sunar; örnek artık ihtiyaçlarınızı karşılamadığında, aynı aile içindeki çeşitli özellikler arasında geçiş yapmak için basit bir yeniden başlatma yeterlidir · Ayarlanabilir bant genişlikleri sağlar |
· Uzatılmış abonelik süresi gerektirir · Değiştirilemeyen yapılandırmalara sahiptir · Ayarlanamayan giden bant genişliğinin tek seferlik satın alımını gerektirir |
|
|
· Çevrimiçi yönetim için web tabanlı bir konsol sağlar · Yerleşik ana akım işletim sistemine (örneğin etkinleştirilmiş orijinal Windows işletim sistemi) sahiptir ve işletim sisteminin çevrimiçi olarak değiştirilmesine izin verir · Örnek satın aldığınızda GPU sürücülerini satın alıp yüklemenize olanak tanır |
· Çevrimiçi yönetim araçları sağlamaz; manuel yönetim ve bakım gerektirir · Kendi işletim sisteminizi getirmeniz, kurmanız ve değiştirmeniz gerekir · İşletim sistemlerini manuel olarak hazırlayıp yüklemeniz gerekir |
|
|
· Her verinin üç kopyasını saklar. Bir kopya bozulduğunda veriler hızla geri yüklenebilir · Donanım arızaları hızlı ve otomatik olarak giderilebilir |
· Felaket kurtarma ortamını manuel olarak oluşturmanız ve pahalı geleneksel depolama cihazlarını kullanmanız gerekir · Bozulan verileri manuel olarak düzeltmeniz gerekir |
|
|
· Abonelik ve kullandıkça öde faturalandırma yöntemlerini destekler. İşletme ihtiyaçlarınıza göre uygun faturalandırma yöntemini seçebilirsiniz · Büyük bir ön yatırım yapmadan isteğe bağlı kaynakları satın almanıza olanak tanır |
· Yoğun saatlerin yapılandırma gereksinimlerini karşılamak için kaynakları peşin ödeme yaparak satın almanız gerekir · Büyük bir ön yatırım gerektirir ve kaynak israfına neden olur |
Senaryolar
Sektör Lideri Çözüm ve Yüksek Performans
Alibaba Cloud Elastic GPU Service, mühendislik simülasyonu ve analizinde yüksek performans, ölçeklenebilirlik ve kurumsal düzey güvenilirlik sunan sektöre yön veren çözümler sağlar. Geniş GPU belleği ve yüksek GPU performansı sayesinde, karmaşık simülasyonlar gerçekleştirmek ve zorlu sorunları çözmek için bilişim gücünden yararlanabilirsiniz.
Avantajlar
-
Optimize Edilmiş Çözüm
Çözüm süresini önemli ölçüde azaltmak için CFD modellemesinden yararlanır.
-
Hesaplamalı Elektromanyetik Alanında Hızlandırılmış Elektronik Tasarım
Elektromanyetik performansı simüle ederek ve elektromanyetik radyasyonu, paraziti ve iletimi tahmin ederek yüksek performanslı elektronik ürün ve bileşenlerin tasarlanmasına yardımcı olur.
-
Mühendislik Simülasyonu
Buluttaki sanallaştırılmış uygulamalarla üretkenliği artırın ve BT bütçelerinden tasarruf edin.
En İyi Birlikte Çalıştığı Ürünler
En İyi Görüntü İçin HD Video İşleme
Video işleme görevleri genellikle büyük veri hacimleri ve uzun işlem süreleri gibi sorunlarla karşılaşır. GPU'lar görevleri paralel olarak hesaplayabilir ve video işleme optimizasyonu için kullanılabilir. GPU'lar temel olarak büyük ölçekli HD video kod dönüştürme, 4K ve 8K canlı yayın, çok kullanıcılı video konferans ve video kaynağı onarma gibi alanlarda kullanılır.
Avantajlar
-
Yüksek Performans
Bilişim performansını artırmaya yönelik optimizasyonlar.
-
Üstün Hesaplama Gücü
Çok kareli verilerin hızlı işlenmesini ve çok sayıda bilişim görevini yürütecek bilişim gücünü destekler.
En İyi Birlikte Çalıştığı Ürünler
Yüksek Performanslı Bilişim
GPU, meteorolojik tahmin, hidrokarbon araması ve moleküler dinamik araştırmaları gibi büyük ölçekli paralel hesaplama gerektiren bilimsel hesaplamada temel bir rol oynar. Esnek hesaplama ile birlikte GPU, büyük ölçekli kayan nokta işlemleri için gereken hesaplama gücünü sağlar. Bu hesaplama gücü hem çevrimiçi hem de çevrimdışı olarak kullanılabilir.
Avantajlar
-
Otomatik Ölçeklendirme
Otomatik ölçeklendirme uygulamak için ESS ve SLB ile entegre olur.
-
Üstün Hesaplama Gücü
Bilimsel hesaplamanın büyük bilişim gereksinimlerini karşılamak için en yeni GPU'ları ve hızlı dağıtım yöntemlerini sunar.
En İyi Birlikte Çalıştığı Ürünler
Başarı Hikâyeleri
En önemli belirleyici faktör tanıma doğruluğuydu; Vision AI Platformu, doğrulama sürecinin en başından itibaren mozaikleme işlemi için plakaları %90'dan fazla doğrulukla tanıdı.
Daha sonra yapılan detaylı ince ayarların ardından sistem, devreye alma aşamasında %95'in üzerinde bir doğrulukla otomatik tanıma ve mozaikleme işlemini gerçekleştirebildi.
– Chiaki Uchiyama, Bölüm Lideri, Frima Pazarlama Bölümü, Frima Bölümü, IDOM Co.
IDOM Inc. (Tokyo, Chiyoda-ku), Japonya'nın en büyük araç dağıtım verilerinden birini yöneten ikinci el araç alım satım işi yürütmektedir. Şirket yakın zamanda bakım, kaporta ve satış sonrası hizmetlerini geliştirdiği devasa mağazalar açtı.
IDOM platformu kullanıcıların satacakları araçların fotoğraflarını özgürce yüklemesine olanak tanır. Ancak self servis kısıtlamaları ile manuel kontroller ve yeniden işlemler nedeniyle artan iş yükü sorunlarıyla karşı karşıyadır. Alibaba Cloud yüksek doğrulukta görüntü tanıma teknolojisi ve birebir destek sağlayarak bu sürece katkıda bulunabilir.
Ms-meta.HK çözümünü hayata geçirirken Alibaba Cloud'un çeşitli hizmetlerinden yararlandı. Bu hizmetler, Alibaba Cloud'un yerel teknik uzmanları ve özel destek ekibiyle birlikte Ms-meta.HK'nın Metaverse teklifini halka kolayca sunmasını sağladı.
Ms-meta.HK, Hong Kong merkezli, merkeziyetsiz ve topluluk odaklı bir Metaverse projesidir. Ms-meta.HK, Metaverse platformunda Alibaba Cloud'un bulut render ve trafik dağıtım teknolojilerini aktif olarak kullanmaktadır. Alibaba Cloud ile iş birliği yapmak, Ms-meta.HK'nın Metaverse'ündeki sanal sahneleri optimize etmesini ve yükleme sürelerini kısaltarak müşterilerine daha iyi bir kullanıcı deneyimi sunmasını sağlar. Ayrıca şirket, Alibaba Cloud'un güçlü güvenlik çözümleri sayesinde halka açık sunucularını koruyabilmektedir. Ms-meta.HK, Alibaba Cloud'un yardımıyla Metaverse altyapı hizmetlerini daha da optimize etmeyi hedeflemektedir.
ADVANCE, temel işinin bir parçası olarak Yapay Zeka ve makine öğrenimi algoritmaları için veri ambarı ve veri analitiği süreçlerini yönetmek üzere Alibaba Cloud üzerinde çeşitli bulut yerel veri depolama ve yönetim çözümlerinden yararlanmaktadır. Örneğin ADVANCE; bellek içi önbellekleme ve yüksek hızlı erişim için ApsaraDB for Redis, esnek ve yarı yapılandırılmış veri depolama için ApsaraDB for MongoDB, çeşitli veri kaynakları arasında veri toplama, işleme ve yönetişim için DataWorks ve gerçek zamanlı büyük veri işleme için Realtime Compute for Apache Flink kullanmaktadır.
Advance Intelligence Group (ADVANCE), Asya-Pasifik bölgesinde faaliyet gösteren ve özellikle Endonezya olmak üzere Güneydoğu Asya (SEA) pazarının önde gelen yapay zeka destekli teknoloji şirketlerinden biridir.
ADVANCE, müşterilerine gelişmiş Yapay Zeka hizmetleri sunmaya kararlıdır. Alibaba Cloud, yenilikçi bulut altyapısı hizmetleriyle ADVANCE'in başarısını desteklemeye devam edecektir. Yapay Zeka ve bulut bilişimin birleşimi, daha yüksek verimlilik, üretkenlik ve dijital güvenlik sağlayarak müşterilere çok daha fazla değer katacaktır.
