Aufbau eines multimodalen Chat-Assistenten mit Qwen auf Alibaba Cloud
Referenzarchitektur
Ihre Herausforderungen:
Der Aufbau eines Chat-Assistenten, der multimodale Daten versteht, erfordert leistungsstarke KI-Modelle, leistungsfähige GenAI-Entwicklungsplattformen und eine umfassende Lösung.
Unsere Lösung:
-
Alibaba Cloud bietet eine Reihe technischer Grundpfeiler als Fundament für Ihre multimodale KI-Entwicklung:
Qwen-Audio: Das große Audio-Sprachmodell, das verschiedene Audioeingaben verarbeitet.
Qwen-VL: Das große Vision-Sprachmodell, das Bilder analysiert und feine Details sowie Text erkennt.
OpenSearch: Der konversationelle Suchdienst, der Ihr Q&A-System maßschneidert – basierend auf Vektorabruf und LLMs.
Qwen-Agent: Das Framework zur Entwicklung von LLM-Anwendungen. Es orchestriert intelligente Agenten, die Anweisungen befolgen und komplexe Aufgaben ausführen.
PAI-EAS: Stellen Sie Qwen und andere gängige multimodale KI-Modelle mit wenigen Klicks als Webdienste bereit.
Diese Produkte sind durch einen Planer-Agenten miteinander verbunden. Sie können die API dieses Agenten auf ECS bereitstellen und eine Verbindung zu DingTalk oder anderen Instant Messengern (IMs) herstellen.
Produkt
Tongyi Qianwen (Qwen)
Qwen-Modelle bieten vielfältige Funktionen, einschließlich multimodaler Verarbeitung und Generierung, um Ihre Innovationen im Bereich der generativen KI zu unterstützen.
Blog
Multimodale Dienste mit Qwen auf Alibaba Cloud erstellen
Dieser Blog erklärt, wie Sie Ihren eigenen KI-Bildgenerierungsdienst auf Function Compute mithilfe von Terraform und Alibaba Cloud Model Studio einrichten.
Ergebnisdemo
Llama-2-Modelle auf PAI-EAS bereitstellen
Ergebnisdemonstration
Über Llama 2:
Llama ist ein Open-Source-LLM. Im Vergleich zu seinem Vorgänger Llama 1 verfügt Llama 2 über mehr Trainingsdaten und eine längere Kontextlänge, wodurch es vielseitiger und genauer bei der Generierung natürlicher Sprache in großem Maßstab ist. Llama 2 ist in verschiedenen Versionen mit unterschiedlichen Parametergrößen verfügbar, einschließlich 7 Milliarden, 13 Milliarden und 70 Milliarden.
Bereitstellung:
-
PAI-EAS (Elastic Algorithm Service) ist eine Komponente der Platform for AI (PAI), mit der Sie KI-Anwendungen einfach bereitstellen und verwalten können. Sie enthält den PAI-Blade-Inferenzbeschleuniger, einen Hardwarebeschleuniger, der die Leistungsfähigkeit von LLMs mit einer bis zu sechsmal schnelleren Inferenzgeschwindigkeit im Vergleich zu herkömmlichen Methoden verbessert. Das bedeutet, dass Sie mehr Daten verarbeiten, schnellere Antworten generieren und die Leistung Ihrer sprachbasierten Anwendungen steigern können. Sie können Llama 2 auf PAI-EAS in der WebUI mit nur wenigen Klicks und dem im Blog bereitgestellten Beispielcode ausführen oder die API mit dem Python-Wrapper-Code aus dem Blog verwenden, um einen Llama-2-Dienst einzurichten. Im Blog finden Sie auch eine Anleitung zum Einbinden eines benutzerdefinierten Modells in Llama 2 mit PAI-EAS.
Produkt
Platform for AI (PAI)
Diese All-in-One-Plattform bietet umfassende KI-Engineering-Funktionen auf Basis von Machine-Learning-Algorithmen.
Blog
Llama2-Modelle einfach auf Platform for AI (PAI) von Alibaba Cloud ausführen.
Dieser Blogbeitrag beschreibt die einfache Bereitstellung von Llama-2-Modellen auf der PAI-EAS-Plattform von Alibaba Cloud, die Benutzern durch PAI Blade erhebliche Geschwindigkeitssteigerungen und Kosteneinsparungen bietet.
Video-Tutorial
Generative KI auf Alibaba Cloud
Beschleunigen Sie Innovationen mit generativer KI und schaffen Sie neue Geschäftserfolge.
Stable-Diffusion-Modelle auf PAI ausführen
Ergebnisdemonstration
Über Stable Diffusion:
Stable Diffusion ist ein beliebtes Open-Source-Modell für die cross-modale Generierung, das fortschrittliche Deep-Learning-Algorithmen und -Techniken nutzt, um anhand von Textbeschreibungen visuell überzeugende Bilder zu erzeugen. Durch die iterative Aktualisierung des generierten Bildes werden Qualität, Kohärenz und Treue des Endergebnisses schrittweise verbessert.
Bereitstellung:
-
Sie können PAI-DSW (Data Science Workshop) verwenden, um die Stable-Diffusion-Modelle feinabzustimmen. Nutzen Sie PAI-DLC (Deep Learning Container), um schnell eine optimierte Deep-Learning-Umgebung mit sofort einsatzbereiten Containern gängiger Deep-Learning-Frameworks einzurichten und zu verwalten. Schließlich können Sie die Modelle bereitstellen und mit wenigen Klicks in PAI-EAS einen Text-zu-Bild-Generierungsdienst erstellen.
Produkt
Platform for AI (PAI)
Diese All-in-One-Plattform bietet umfassende KI-Engineering-Funktionen auf Basis von Machine-Learning-Algorithmen.
Blog
Entfesseln Sie das kreative Potenzial mit der GenAI-Diffusion-Lösung für Grafikerstellung
Dieser Artikel zeigt, wie Sie Ihren eigenen Text-to-Image-Dienst auf Basis von Stable-Diffusion-Modellen erstellen können – ohne hohe Kosten oder großen Zeitaufwand.
Dokumentation
Stable Diffusion für KI-Bildgenerierung mit EAS in wenigen Klicks bereitstellen
Dieses Thema beschreibt, wie Sie mit PAI-EAS die Stable Diffusion Web UI als Webanwendung bereitstellen. Die bereitgestellte Anwendung kann für die Modellinferenz verwendet werden.
AnalyticDB for PostgreSQL für Vektorabfragen und -analysen nutzen
Ergebnisdemonstration
Ihre Herausforderungen:
Große Mengen komplexer unstrukturierter Daten stellen traditionelle Vektordatenbanken vor Herausforderungen: Echtzeit-Leistungsanalysen, hohe Kosten und Systemkompatibilität werden zum Problem, während die Skalierbarkeit des Geschäfts eine zentrale Sorge bleibt.
Unsere Lösung:
-
AnalyticDB for PostgreSQL ist ein Cloud-natives Data Warehouse mit Massively Parallel Processing (MPP). Die Vektordatenbank-Funktion hilft Ihnen, große Mengen unstrukturierter Daten wie Dokumente, E-Mails, Bilder und Webinhalte zu verwalten. Sie ist ideal für moderne Datendienste, die strukturierte und unstrukturierte Daten in großen Volumina verarbeiten, Echtzeitanalysen bereitstellen und sich an wechselnde Geschäftsanforderungen anpassen. Unternehmen mit domänenspezifischen Anforderungen können AnalyticDB for PostgreSQL nutzen, um präzise Ergebnisse auf Basis fachspezifischer Daten zu erzielen. In diesem Beispiel können Sie einfach einen Chatbot erstellen, der die Lern- und Verständnisfähigkeiten von LLMs mit den Kernfunktionen von AnalyticDB for PostgreSQL kombiniert. Dazu gehören integrierte Vektordaten- und Volltextsuche, die professionelle und zeitnahe Antworten auf Basis Ihres Unternehmenswissens liefern.
Produkt
AnalyticDB for PostgreSQL
Ein Online-MPP-Datenwarehouse-Dienst (Massively Parallel Processing) auf Basis der Open-Source-Datenbank Greenplum
Blog
Aufbau eines unternehmensspezifischen Chatbots mit AnalyticDB for PostgreSQL und generativer KI
Dieser Blogbeitrag erläutert die Grundlagen und Prozesse zum Aufbau eines unternehmensspezifischen Chatbots auf Basis eines LLM und einer Vektordatenbank.
Video-Tutorial
Generative KI auf Alibaba Cloud
Beschleunigen Sie Innovationen mit generativer KI für neuen geschäftlichen Erfolg.
Aufbau eines konversationellen Suchdienstes mit OpenSearch Vector Search Edition
Ergebnisdemonstration
Ihre Herausforderungen:
Branchen wie E-Commerce und soziale Online-Plattformen verarbeiten große Mengen unstrukturierter Daten, die ständig wachsen und sich ändern. Kundenanfragen sind häufig komplex und erfordern Echtzeitantworten. Auf LLMs basierende Suchdienste können die Anforderungen an Genauigkeit und Aktualität nicht erfüllen und verursachen hohe Hardwarekosten.
Unsere Lösung:
-
OpenSearch bietet einen leistungsstarken Suchdienst, der Milliarden von 128-dimensionalen Dokumenten (als Vektordaten) oder tausende QPS mit Abfrageantworten im Millisekundenbereich unterstützt. Der Dienst integriert verschiedene Retrieval-Algorithmen für Vektordaten und bewältigt komplexe Suchanforderungen wie Hybridsuche, filterbasierte Ausdrücke und paralleles Filtern während der Suche. OpenSearch bietet zudem Datenkomprimierungsfunktionen und eine optimierte Indexstruktur, um Speicher- und Arbeitsspeicherbedarf zu senken und Hardwarekosten in großem Maßstab zu reduzieren. Sie können OpenSearch über ein Service-Tool mit LLMs kombinieren, um einen intelligenten, dedizierten und echtzeitfähigen Suchdienst für Ihr Unternehmen aufzubauen. Dies verbessert die Servicequalität und Aktualität ohne hohe Hardwareinvestitionen.
Produkt
OpenSearch
Eine All-in-One-Entwicklungsplattform für intelligente Suchdienste mit einer vollständig offenen Text-Vektorsuchmaschine und semantischem Verständnis für Abfragen
Blog
Aufbau eines konversationellen Suchdienstes mit OpenSearch und LLMs
Dieser Artikel beschreibt, wie Sie einen konversationellen Suchdienst auf Basis einer Open-Source-Vektorsuchmaschine und LLMs erstellen.
Einrichtung eines virtuellen Anprobe-Dienstes auf Basis von Stable-Diffusion-Modellen
Ergebnisdemonstration
Ihre Herausforderungen:
Die bildbasierte virtuelle Anprobe erzeugt ein Bild eines Zielmodells, das ein bestimmtes Kleidungsstück trägt, und bietet so ein komfortableres und personalisierteres Benutzererlebnis. Allerdings ist es schwierig, durchgehend eine natürliche und lebendige Darstellung zu gewährleisten – insbesondere bei großem Umfang.
Unsere Lösung:
-
LoRA (Low-Rank Adaptive Relational Attention) ist ein weit verbreiteter Algorithmus für die KI-Bildgenerierung, der es Benutzern ermöglicht, generative Modelle durch Hinzufügen weniger Parameter und mithilfe kleiner Datensätze feinabzustimmen. Mit Platform for AI (PAI) können Sie KI-generierte Bilder auf Basis von LoRA- und Stable-Diffusion-Modellen einfach und schnell feinabstimmen. Dies bietet umfangreiche Generierungsmöglichkeiten für Modelle, Posen und Hintergründe bei gleichzeitiger Reduzierung der trainierbaren Parameter und des GPU-Speicherbedarfs. Dadurch eröffnen sich neue Möglichkeiten für ein personalisierteres und intelligenteres Kundenerlebnis in der Modebranche.
Produkt
Platform for AI (PAI)
Diese All-in-One-Plattform bietet umfassende KI-Engineering-Funktionen auf Basis von Machine-Learning-Algorithmen.
Blog
Virtuelle Kleideranprobe mit PAI schnell einrichten
Dieser Artikel zeigt, wie Sie schnell einen virtuellen Anprobe-Dienst für Kleidung auf Basis von Stable-Diffusion-Modellen erstellen.
Video-Tutorial
Mit Alibaba Cloud Lösungen starten
Erleben Sie die Leistungsfähigkeit von Alibaba Cloud.
Vertrieb kontaktieren