Agentic PAI - AI-Powered Operations Interface - Platform For AI

Fonctionnalités clés

Fonctionnalité

Avantage

Interface en langage naturel

Décrivez votre objectif dans un langage courant. Inutile de vous souvenir des paramètres d'API, des spécifications d'instance ou des chemins d'accès dans la console. Les utilisateurs métier peuvent démarrer rapidement.

Gestion unifiée interrégions

Un point d'entrée unique pour toutes les régions. Plus besoin de changer de console région par région.

Opérations sécurisées et contrôlées

Les opérations de lecture et d'écriture sont distinguées. Les opérations d'écriture nécessitent une confirmation explicite et sont régies par les permissions RAM.

Intégration native à PAI

Intégration approfondie aux capacités de PAI. Les résultats des opérations sont synchronisés avec la console en temps réel.

Mémoire personnalisée

L'Agent se souvient de votre région par défaut, de vos espaces de travail fréquemment utilisés et de vos préférences de type d'instance. Les conversations suivantes appliquent automatiquement ces paramètres.

Automatisation des tâches planifiées

Configurez des tâches planifiées pour les travaux répétitifs tels que les inspections, la surveillance et la récupération des ressources. Le système les exécute automatiquement.

Notifications de messagerie instantanée

Les résultats des tâches sont transmis aux groupes DingTalk ou Lark via des webhooks. Aucune information critique n'est manquée.

Historique auditable

Les enregistrements de conversation et l'historique des opérations sont stockés de manière persistante pour examen, dépannage et transmission entre équipes.

Fonctionnalités principales

Soumission de tâches conversationnelle

Décrivez vos exigences en langage naturel. L'Agent gère la reconnaissance de l'intention, la complétion des paramètres, la construction de l'API et l'exécution de la tâche.

Flux d'exécution : Reconnaissance de l'intention → Complétion des paramètres (demande d'informations manquantes) → Confirmation (pour les opérations d'écriture) → Soumission et exécution → Affichage des résultats.

Exemple de conversation

Utilisateur : Créez une instance DSW avec un GPU A10 et montez le jeu de données nas-workspace.
Agent : J'ai besoin de quelques détails : quel nom donner à l'instance ? Quelle doit être sa durée d'exécution ?
Utilisateur : demo-dev, 24 heures.
Agent : Instance DSW « demo-dev » (A10 × 1) créée. nas-workspace monté. Démarrage en cours : disponible dans environ 2 minutes.

Tâches planifiées et notifications de messagerie instantanée

Configurez des tâches planifiées via un formulaire pour exécuter automatiquement des opérations de lecture ou d'analyse à des intervalles spécifiés. Consultez les résultats dans l'historique des tâches ou transmettez-les aux groupes DingTalk ou Lark via des webhooks.

Remarque

Actuellement, seules les opérations de lecture et d'analyse sont prises en charge (interrogation du statut, calcul des statistiques d'utilisation, alertes d'inspection, etc.). Les opérations d'écriture (création, suppression, modification) nécessitent une confirmation et ne peuvent pas être exécutées de manière fiable selon une planification ; elles ne sont donc pas encore prises en charge.
Après la configuration, cliquez sur Run now pour vérifier que la sortie correspond à vos attentes avant d'activer l'exécution planifiée.

Configuration des tâches planifiées

Accédez à la page Scheduled Tasks.
Dans le coin supérieur droit, cliquez sur Create scheduled task.
Renseignez le nom de la tâche, les instructions de la tâche, la fréquence de déclenchement (expression cron ou sélection via l'interface utilisateur), le canal de notification, l'URL du webhook et la description de la tâche (en langage naturel).
Cliquez sur Run now pour tester et vérifier.
Après vérification, activez l'exécution planifiée.

Obtenir un webhook DingTalk : Group Settings → Robots → Add → Custom (Webhook) → Copiez l'URL.

Questions-réponses intelligentes et diagnostics

Posez des questions en langage naturel. L'Agent s'appuie sur les connaissances des produits PAI et sur le contexte de la page actuelle pour fournir des réponses instantanées destinées au diagnostic des problèmes, à l'explication de la terminologie et aux recommandations de sélection.

Scénarios pris en charge

Scénario

Description

Diagnostics d'exécution des ressources

Échecs de démarrage DSW, problèmes de connexion SSH, files d'attente longues pour les jobs d'entraînement, échecs de déploiement de service EAS : l'Agent identifie automatiquement les causes racines et fournit des points d'entrée pour les corrections.

Explications des erreurs de console

Fournit des explications et des solutions en langage clair pour les erreurs contextuelles de la console.

Questions-réponses sur les connaissances produit

Explications de la terminologie en temps réel, demandes d'informations sur les limitations des fonctionnalités et guidance sur les chemins d'opération.

Support spécialisé PPU

Validation de l'environnement, recommandations d'images et recommandations de modèles depuis Model Gallery adaptés pour PPU.

Recommandations de sélection et de solution

Recommande des modèles, des types d'instance et des configurations de disagrégation PD en fonction des scénarios d'entraînement ou d'inférence.

Cas d'utilisation

Administrateurs de plateforme/ressources

Gérez globalement les ressources de cluster PAI, les espaces de travail et l'infrastructure. Concentrez-vous sur l'utilisation des ressources, la santé du cluster, les permissions et les quotas.

Scénario

Exemple de conversation ou d'opération

Inspection des ressources

Inspectez toutes les instances DSW dans la région Hangzhou. Répertoriez celles qui sont anormales et celles qui fonctionnent depuis plus de 24 heures.

Surveillance des quotas

Affichez le ratio utilisé/alloué pour tous les quotas à Pékin. Mettez en évidence ceux dont l'utilisation dépasse 80 %.

Inspection du statut des nœuds

Vérifiez tous les nœuds Lingjun dans la région Ulanqab. Répertoriez les nœuds qui ne sont pas dans l'état Ready.

Planification de la capacité du cluster

Calculez le nombre de GPU disponibles et le ratio alloué pour chaque groupe de ressources dans la région Hangzhou.

Gestion des membres et des permissions

Répertoriez tous les membres de l'espace de travail pai-prod et affichez la répartition de leurs rôles.

Alertes d'inspection planifiées

Configurez une tâche planifiée : inspectez le statut des instances et la santé des nœuds dans toutes les régions tous les jours à 9 h 00. Envoyez les alertes à un groupe DingTalk.

Ingénieurs algorithmiques/formateurs de modèles

Utilisez PAI quotidiennement pour le développement, l'entraînement et le déploiement de modèles. Concentrez-vous sur l'efficacité du développement et la stabilité de l'entraînement.

Scénario

Exemple de conversation ou d'opération

Configuration rapide de l'environnement de développement

Créez une machine de développement mono-GPU A10 avec PyTorch installé.

Soumission d'entraînement par lots

Clonez et soumettez 3 jobs d'entraînement en utilisant dlcxxxxxx, avec des taux d'apprentissage lr=0,01/0 001/0.0001 respectivement.

Interrogation du statut d'entraînement

Où se trouve mon job DLC dlc-abc123 à Hangzhou ? Quelle est la perte actuelle ?

Gestion des jeux de données

Répertoriez les jeux de données auxquels je peux accéder. Montez nas-shared sur ma machine de développement.

Consultation des journaux d'entraînement

Affichez les 100 dernières lignes des journaux de worker-0 de dlc-abc123.

Alertes de surveillance d'entraînement

Configurez une tâche planifiée : transmettez la courbe de perte du job d'entraînement à un groupe Lark toutes les 30 minutes.

Ingénieurs en déploiement/inférence de modèles

Concentrez-vous sur le déploiement, l'exploitation et l'optimisation des performances des services de modèle EAS.

Scénario

Exemple de conversation ou d'opération

Déploiement de service

Déployez le modèle xxx depuis Model Gallery en tant que service EAS.

Configuration de l'Auto Scaling

Ajustez la politique de mise à l'échelle pour service-rec-001 : augmentez la capacité lorsque l'utilisation du GPU dépasse 70 %, avec un maximum de 5 instances.

Gestion multi-versions

Répertoriez les versions actuelles de service-rec-001. Acheminez 80 % du trafic vers v2.

Surveillance des services

Vérifiez les QPS et la latence P99 pour service-rec-001 au cours de la dernière heure.

Vérification de la santé des services

Répertoriez tous les services EAS et mettez en évidence ceux dont le statut est anormal.

Mise hors service des services

Arrêtez v1 de service-rec-001. Conservez v2 et v3.

Responsables d'équipe/propriétaires des coûts

Concentrez-vous sur les coûts des ressources, les tendances d'utilisation et l'allocation des ressources de l'équipe d'un point de vue managérial. Pas d'opérations directes : l'accent est mis sur les insights issus des données.

Scénario

Exemple de conversation ou d'opération

Rapport hebdomadaire d'utilisation des GPU

Calculez l'utilisation moyenne des GPU pour tous les groupes de ressources dans la région Hangzhou cette semaine. Classez par groupe de ressources.

Consommation des ressources par l'équipe

Classez la durée d'exécution des instances DSW pour tous les membres de l'espace de travail pai-prod.

Comparaison de l'allocation des ressources

Comparez les quotas de ressources et l'utilisation réelle entre les espaces de travail pai-dev et pai-prod.

Rapports de coûts planifiés

Configurez une tâche planifiée : transmettez le rapport d'utilisation des ressources et de coûts de la semaine précédente à un groupe DingTalk tous les lundis à 9 h 00.

FAQ

Quels modules PAI sont pris en charge ?

Prend actuellement en charge DSW, DLC, EAS, la gestion des espaces de travail et des ressources. D'autres modules sont en cours d'ajout.
Quelles régions sont prises en charge ?

Service centralisé, intégré à toutes les régions de votre compte. Pas besoin de changer de région une par une.
Quelles opérations les tâches planifiées prennent-elles en charge ?

Uniquement les opérations de lecture et d'analyse (requêtes, statistiques, inspections, etc.). Les opérations d'écriture nécessitent une confirmation et ne sont pas encore prises en charge dans les scénarios planifiés.
Quelles fréquences les tâches planifiées prennent-elles en charge ?

Prend en charge les expressions cron. Configurez des planifications quotidiennes, hebdomadaires, mensuelles ou autres. La fréquence la plus élevée est horaire.
Quelles plateformes de messagerie instantanée les webhooks prennent-ils en charge ?

Prend actuellement en charge les robots DingTalk et Lark.
Les enregistrements de conversation sont-ils sauvegardés ?

Oui. Tout l'historique des conversations est consultable pour l'examen des opérations et la transmission entre équipes.
En quoi cela diffère-t-il des IA générales comme ChatGPT ?

Agentic PAI peut réellement exploiter les ressources PAI (créer des instances, soumettre des jobs d'entraînement, déployer des services), et pas seulement fournir de la documentation ou des extraits de code.
Comment la sécurité est-elle assurée ?

Les opérations d'écriture nécessitent une confirmation explicite. Toutes les opérations sont régies par les permissions de l'exécuteur sur Alibaba Cloud. L'Agent ne peut faire que ce pour quoi votre compte est autorisé.

Tarification et support

Actuellement en aperçu public. L'équipe PAI prend en charge les coûts d'utilisation des jetons : vous ne payez pas.

Après la commercialisation, le service sera inclus dans le système de facturation PAI. La tarification devrait être basée sur l'utilisation des jetons ou sur des abonnements mensuels. La tarification finale est soumise à l'annonce officielle.