Alibaba Cloud Model Studio:Applications d'agent

Les applications d'agent d'Alibaba Cloud Model Studio connectent un LLM à des outils externes et à des bases de connaissances sans code, étendant ainsi les capacités du modèle au-delà de ses limites natives.

Fonctionnement

Un agent utilise des prompts pour orchestrer des outils externes et accomplir des tâches complexes. À la réception d'une requête, le LLM identifie l'intention de l'utilisateur, planifie les tâches, appelle les outils externes nécessaires et intègre les résultats pour générer une réponse finale.

Privilégiez un agent lorsque vous souhaitez que le modèle décide de manière autonome des outils à employer pour une tâche, plutôt que de suivre un workflow conçu manuellement.

Les agents Model Studio offrent les capacités fondamentales suivantes :

1. Base de connaissances (RAG) : Connecte l'agent à une base de connaissances externe pour répondre aux questions en s'appuyant sur vos données privées. Cette capacité est particulièrement utile pour les scénarios de Q&R dans des domaines spécialisés non couverts par les données d'entraînement du modèle.
2. Plugin : Appelle des outils prédéfinis de la plateforme pour exécuter des tâches telles que l'exécution de code, la génération d'images ou des requêtes météorologiques. Ce mécanisme est idéal lorsque l'agent doit réaliser des actions concrètes au lieu de se limiter à la conversation.

Prise en main

Créer un agent de base

1. Accédez à la page Application Management sur la console Alibaba Cloud Model Studio. Cliquez sur + Create Application. Dans l'onglet Agent Application, cliquez sur Create Now.
2. Sur la page de configuration de l'application, sélectionnez un modèle dans la liste déroulante, par exemple Qwen-Plus. Conservez les paramètres par défaut pour les autres options.
3. Une fois l'application créée, saisissez Hello dans la zone de conversation située à gauche pour la tester.

Capacités de l'agent

Étendez les capacités d'un agent en sélectionnant un modèle, en optimisant le prompt système, en ajoutant une base de connaissances (RAG) et en appelant des plugins.

Modèle

Le modèle constitue le composant central qui pilote le raisonnement et la prise de décision de l'agent. Les agents Model Studio prennent en charge les modèles de la série Qwen ainsi que les modèles déployés personnalisés.

1. Sélectionner un modèle

   Dans la liste déroulante des modèles, choisissez un modèle tel que Qwen-Plus. Cliquez sur More Models pour parcourir les autres modèles disponibles.

2. Configurer les paramètres

   Cliquez sur l'icône de paramètres située à droite de la liste déroulante des modèles pour configurer les paramètres suivants :

   1. Longueur maximale de réponse : Définit la longueur maximale de la réponse générée par le modèle, hors prompt. La valeur maximale varie selon le modèle utilisé.

   2. Tours de contexte : Spécifie le nombre maximal de tours de conversation historiques à inclure dans l'entrée du modèle. Une valeur plus élevée permet de mieux préserver le contexte conversationnel.

   3. temperature : Contrôle l'aléatoire du contenu généré. Une valeur élevée accroît la diversité, tandis qu'une valeur faible renforce la cohérence. La valeur doit être comprise dans l'intervalle [0, 2).

   4. enable_thinking : Active ou désactive le mode de réflexion du modèle. Ce paramètre n'est disponible que pour les modèles compatibles.

      Lorsque le mode de réflexion est activé, le modèle effectue un raisonnement plus approfondi avant de générer une réponse, ce qui augmente la consommation de tokens.

Prompt système

Un prompt système définit le rôle, le comportement et les contraintes d'un agent afin de garantir des réponses cohérentes et orientées vers la tâche. Pour rédiger un prompt efficace, tenez compte des points suivants :

• Définir une persona : Précisez le rôle que le modèle doit adopter ainsi que l'expertise dont il doit faire preuve.

• Spécifier un format de sortie : Décrivez la structure, la longueur ou le style souhaité pour la réponse.

• Établir des contraintes : Indiquez au modèle les contenus à éviter ou les règles à respecter.

• Guider l'utilisation des outils : Mentionnez explicitement les noms des outils et expliquez quand les utiliser.

  1. Configurer un prompt

     Définissez le prompt système sur Please answer my questions in the style of 'One Hundred Years of Solitude'. Voici une comparaison des résultats obtenus :

     • Sans le prompt système : Lorsque l'utilisateur demande « Who are you? », le modèle fournit sa présentation par défaut : « I am Qwen, a large language model developed by the Tongyi Lab of Alibaba Group. I can help you answer questions, provide information, create content, write code, and perform logical reasoning. »
     • Avec le prompt système : Dans l'interface de conversation textuelle, lorsque l'utilisateur demande « Who are you? », l'IA se présente dans le style littéraire de Cent ans de solitude, en faisant référence à des éléments du roman tels que Macondo et la famille Buendía. Cela confirme la prise en compte du prompt système. Les statistiques d'interaction indiquent 234 mots, 245 tokens d'entrée et 177 tokens de sortie.

Base de connaissances (RAG)

La génération augmentée par récupération (RAG) permet à un agent d'interroger une base de connaissances externe et d'utiliser le contenu récupéré comme fondement pour ses réponses. Pour les sessions de Q&R privées ou spécifiques à un domaine, le RAG améliore considérablement la précision et réduit les hallucinations. Pour plus d'informations, consultez la rubrique Créer et utiliser une base de connaissances.

Remarque : Le texte récupéré depuis une base de connaissances consomme une partie de la fenêtre de contexte du modèle. Ajustez votre stratégie de récupération ainsi que la longueur du texte extrait afin d'optimiser l'utilisation de la fenêtre de contexte et d'éviter de dépasser sa limite.

Plugins

Les agents appellent des plugins pour exécuter des tâches spécifiques, telles que l'exécution de code, des recherches web ou la génération d'images à partir de texte. Les plugins s'avèrent utiles lorsqu'un agent doit effectuer des opérations ou générer du contenu allant au-delà de ses capacités natives. Model Studio propose divers plugins officiels et prend également en charge les plugins personnalisés. Pour plus d'informations, consultez la rubrique Vue d'ensemble des plugins.

Interaction avec l'agent

Conversation textuelle

La conversation textuelle constitue le principal moyen d'interaction avec un agent et prend en charge les conversations multi-tours.

Deux méthodes de saisie sont disponibles pour la conversation textuelle :

1. Saisie de texte : Saisissez du texte pour discuter avec l'agent.
2. Importation de fichiers : Importez des fichiers, tels que des documents, des images, des vidéos ou des clips audio, en tant que pièces jointes.

Publication et appel

Une fois publiés, les agents peuvent être appelés via API/SDK, déployés sur des plateformes tierces comme DingTalk et les comptes officiels WeChat, ou encore publiés sous forme de composants réutilisables pour intégration dans vos systèmes métier.

Publier une application

Dans le coin supérieur droit de la page de gestion des applications d'agent, cliquez sur Publish, puis sur Confirm Publish.

Lors de la republication de l'application, une boîte de dialogue s'affiche et présente les modifications apportées depuis la dernière publication.

Appel d'API

Dans l'onglet Publish Channel de votre application d'agent, cliquez sur View API en regard de API Call pour consulter les méthodes API.

Remplacez YOUR_API_KEY par votre clé API Model Studio réelle avant d'invoquer l'API.

Gestion des agents

Copier et supprimer

Sur la page My Applications, localisez la carte de l'application. Via le menu More > Copy Application/Delete Application, copiez, supprimez ou renommez l'agent.

Voici quelques cas d'usage courants pour la copie d'une application :

• Créer des versions de test utilisant différents prompts ou modèles.
• Personnaliser un agent pour différents publics ou cas d'utilisation.
• Sauvegarder l'application avant d'appliquer des modifications majeures de configuration.

Gestion des versions

La gestion des versions permet de modifier les descriptions des versions historiques ou de revenir à une version précédemment publiée.

1. Dans l'onglet Configure de l'application d'agent, cliquez sur Version Management situé dans le coin supérieur droit de la barre de navigation supérieure.

2. Dans la liste des versions historiques, sélectionnez la version cible. Le panneau Version History s'ouvre et affiche une chronologie comprenant le brouillon actuel, la version en ligne (identifiée par un tag Latest) ainsi que d'autres entrées de versions historiques. Chaque entrée indique l'ID de version, l'heure de publication, l'auteur de la publication et les informations de version.

   • Pour modifier les informations de version, passez la souris sur l'icône de modification puis cliquez dessus. Dans la boîte de dialogue Edit Version Description, apportez vos modifications puis cliquez sur OK.

   • Pour utiliser cette version historique, cliquez sur Overwrite Current Draft, puis sur Confirm dans la boîte de dialogue de confirmation.

     Cette action remplace le brouillon actuel par le contenu de la version historique sélectionnée.

Facturation

La facturation des agents comprend les éléments suivants :

1. Appels de modèle

   Les agents engendrent des frais d'appel de modèle, qui varient selon le type de modèle et l'utilisation des tokens.

   Pour plus de détails sur la facturation, consultez la console Model Studio.

2. Base de connaissances
   • La fonctionnalité de base de connaissances est gratuite pour une durée limitée.
   • Les segments de texte récupérés depuis la base de connaissances augmentent le nombre de tokens d'entrée, ce qui peut entraîner une hausse des frais d'appel de modèle.
3. MCPs
   • Certaines plateformes de personnalisation de modèles (MCPs) officielles sont facturées en fonction des appels de modèle, notamment les MCPs dédiées à la conversion texte-image, texte-vidéo et à la synthèse vocale.
   • Certains services MCP impliquent des appels d'API tierces, susceptibles d'engendrer des frais facturés par le fournisseur de services tiers. Model Studio ne prélève aucun frais supplémentaire pour ces appels.
4. Mémoire à long terme
   • Le stockage des données pour la mémoire à long terme est gratuit.
   • Lors d'une session de Q&R, le système fusionne le contenu de la mémoire avec le prompt et le transmet au grand modèle linguistique, ce qui augmente la consommation de tokens. Les tokens consommés par le contenu issu de la mémoire ne sont actuellement pas facturés.

Modèles pris en charge

• Qwen-Plus
• Qwen-Max
• QwenVL-Max
• QwenVL-Plus
• Qwen-Turbo

FAQ

Comment sont facturées les applications Model Studio ?

La création d'une application est gratuite. Lorsque vous appelez une application pour une session de Q&R, des frais d'appel de modèle vous sont facturés en fonction du type de modèle utilisé.

J'ai configuré une base de connaissances, mais les réponses de l'agent n'ont aucun lien avec son contenu. Comment résoudre ce problème ?

Exécutez d'abord un test de correspondance de la base de connaissances afin de vérifier le score de similarité entre la requête et le contenu de la base. Si le score est faible, ajustez la configuration de récupération pour vous assurer que le modèle privilégie les résultats provenant de la base de connaissances.

Dans le prompt système, indiquez explicitement au modèle de répondre aux questions en se basant uniquement sur le contenu de la base de connaissances et de ne pas utiliser ses propres connaissances intégrées. Si le problème persiste, essayez d'utiliser un autre modèle pour obtenir des résultats plus stables.

Existe-t-il un délai d'expiration pour les plugins personnalisés ?

Oui, le délai d'expiration est fixé à 5 secondes.

Puis-je créer des applications d'agent à l'aide d'une API ?

Utilisez l'API Assistant pour créer des applications de grands modèles linguistiques similaires aux applications d'agent. Toutefois, les applications créées avec l'API Assistant ne peuvent pas être gérées via la console. Pour plus d'informations, consultez la documentation de l'API Assistant.