La version AI Chat Edition basée sur les LLM d'OpenSearch intègre le traitement des données non structurées, les modèles vectoriels, la recherche textuelle et vectorielle ainsi que les grands modèles de langage (LLM) dans une solution RAG (Retrieval-Augmented Generation) clé en main. Importez des données dans divers formats pour créer des services de recherche conversationnelle multimodaux prenant en charge les dialogues, les liens et les images.
Introduction au produit
La version AI Chat Edition basée sur les LLM cible les scénarios de recherche spécifiques à chaque secteur d'activité et propose aux entreprises des services dédiés de recherche par questions-réponses. Grâce aux LLM intégrés, déployez rapidement un système de recherche Q&A qui utilise vos données métier pour générer automatiquement des réponses, des images de référence et des liens de référence.
Architecture du service
Fonctionnalités du produit
RAG multimodal : Compréhension du contenu des images. Créez des bases de connaissances multimodales à l'aide d'outils tels que l'OCR et les LLM pour fournir des résultats diversifiés.
Évaluation des performances RAG : Évaluez les performances de bout en bout. Comparez les résultats RAG entre différents modèles et paramètres afin de simplifier la comparaison des performances et la sélection des modèles.
Richesse des capacités des modèles et entraînement personnalisé : Inclut un ensemble complet de modèles vectoriels, de reclassement et de grands modèles de langage intégrés. Entraînez des grands modèles personnalisés avec vos données métier.
Mises à jour des données en temps réel : Créez des index vectoriels incrémentiels en temps réel. Les données sont synchronisées et mises à jour instantanément.
Questions-réponses sur les tables : Interrogez les tables via la conversion du langage naturel en SQL (NL2SQL). Cela permet d'effectuer des recherches conversationnelles et des questions-réponses sur les bases de données structurées de votre entreprise.
Zéro déploiement, entièrement géré et sans maintenance opérationnelle : Un service MaaS (Model-as-a-Service) entièrement géré dans le cloud, ne nécessitant aucun déploiement ni maintenance opérationnelle.
Avantages
Intégration rapide tout-en-un : Un flux RAG intégré de bout en bout vous permet de construire un système RAG en quelques minutes en téléchargeant simplement vos données métier depuis la console.
Performances RAG supérieures : Comprend un large éventail de modèles vectoriels, de reclassement et de grands modèles de langage intégrés. Nos modèles figurent régulièrement en tête des classements sectoriels, garantissant une précision RAG supérieure à 95 %.
Méthodes de réglage flexibles : Optimisez les performances via diverses méthodes, telles que les invites personnalisées, la modification des paramètres, le tri des résultats de recherche et l'entraînement de modèles personnalisés. Un modèle dédié à l'évaluation des performances RAG de bout en bout est inclus.
Fonctionnalités connexes complètes : Offre une suite complète de fonctionnalités liées au RAG, notamment la compréhension de contenu multimodal, l'analyse de données structurées et non structurées, les conversations multi-tours, la diffusion en continu (streaming), la reconnaissance d'intention et les agents.
Méthodes de connexion pratiques : Intégrez rapidement et sans code divers écosystèmes, tels que les robots DingTalk et Lark. Des méthodes de connexion flexibles via des API et des SDK sont également disponibles. Utilisez une clé API pour intégrer le service dans divers frameworks open source de développement d'applications basées sur de grands modèles.
Capacités professionnelles complètes : Gérez le cloisonnement des autorisations au niveau des documents pour les entreprises ainsi que les mises à jour en temps réel des données incrémentielles.
Sélection de la version
La version AI Chat Edition basée sur les LLM d'OpenSearch est disponible en deux éditions : Standard Edition et Professional Edition. Le tableau ci-dessous compare leurs fonctionnalités.
|**Élément de comparaison**
|
**Standard Edition**
|
**Professional Edition**
| | --- | --- | --- | |
Entraînement de modèles personnalisés
|
Non pris en charge.
|
Prend en charge le fine-tuning supervisé (SFT) basé sur vos propres données métier.
| |
Sélection du LLM
|
Prend en charge la série Qwen, les modèles open source et les modèles externes.
|
Prend en charge la série Qwen, les modèles open source, les modèles externes et les modèles personnalisés.
| |
Limites
|
Débit limité à un maximum de 10 requêtes par seconde (QPS).
|
Aucune limitation de débit. Les ressources GPU achetées doivent simplement prendre en charge un nombre suffisant de requêtes d'inférence.
| |
Facturation des ressources de calcul
|
Paiement à l'utilisation basé sur les ressources de calcul consommées par appel.
|
Facturation selon les spécifications GPU achetées. Aucun frais supplémentaire pour les ressources de calcul.
| |
Scénarios
|
Convient aux scénarios tels que le service client alimenté par l'IA générale, les bases de connaissances d'entreprise et les guides d'achat e-commerce.
|
Convient aux scénarios impliquant des données métier spécialisées nécessitant l'entraînement et l'utilisation d'un LLM personnalisé, tels que le service client IA, les bases de connaissances d'entreprise et les guides d'achat e-commerce.
|
Scénarios d'utilisation
Service client alimenté par l'IA :
Offrez un support intelligent avant et après-vente dans les applications, les mini-programmes et les sites web. Le service classe l'intention de l'utilisateur et fournit des réponses pertinentes.
Prend en charge les paires questions-réponses fixes basées sur une intervention manuelle.
Permet de renvoyer du contenu multimodal, tel que des images et des vidéos.
Utilise la technologie NL2SQL pour interroger les commandes utilisateurs, les informations logistiques, etc., directement depuis une base de données.
Base de connaissances d'entreprise :
Créez une base de connaissances d'entreprise au sein des portails internes et des logiciels de messagerie afin de fournir un support documentaire et une navigation rapide aux employés.
Prend en charge le cloisonnement des autorisations au niveau des documents pour les entreprises.
Prend en charge les mises à jour des données et la création d'index en temps réel.
Permet l'analyse et la compréhension de divers types de données non structurées.
Guide d'achat e-commerce :
Ajoutez des capacités de guide d'achat intelligent aux barres de recherche ou aux chats du service client dans les applications e-commerce et de vente au détail. Le service utilise l'historique des conversations pour recommander des produits pertinents.
Comprend le contenu multimodal, y compris les images de produits.
Renvoie les liens de recherche originaux vers les produits pour un accès rapide aux articles ciblés.
Permet d'ajuster le tri des résultats de recherche de produits selon les besoins opérationnels.
Résumé de contenu et de communautés :
Ajoutez un résumé intelligent à la barre de recherche des applications de contenu et communautaires. Le service répond aux requêtes des utilisateurs avec des guides et des références issus du contenu de votre site.
Permet l'importation rapide du contenu des pages web et des sites internet.
Comprend le contenu multimodal comme les images grâce à l'OCR, aux grands modèles et à d'autres outils.
Renvoie les liens vers les documents de référence originaux.
Questions-réponses sur les tables :
Pour les données structurées dans des secteurs tels que le commerce et la finance, utilisez NL2SQL pour interroger le contenu pertinent. Un LLM résume ensuite les résultats et les renvoie.
Prend en charge les schémas de table personnalisés.
Prend en charge la synchronisation automatique des données depuis les sources de données MaxCompute.
Permet l'extraction d'informations, le résumé et l'agrégation via NL2SQL.