Platform For AI:FAQ sur la galerie de modèles

Q : Comment vérifier si la réflexion approfondie est activée pour une évaluation de modèle ?

Consultez la configuration de déploiement par défaut sur la page de description du modèle. Tous les modèles sont évalués selon leurs paramètres de déploiement par défaut.

Q : Comment déployer un modèle après l'entraînement ?

1. Accédez à PAI-Model Gallery > Task Management.

2. Repérez la tâche d'entraînement terminée et cliquez dessus pour ouvrir la page des détails.

3. Cliquez sur Deploy dans le coin supérieur droit.

Q : Comment résoudre les problèmes liés à un échec de tâche d'entraînement ?

Lorsqu'une tâche d'entraînement échoue, examinez les diagnostics ou les journaux de la tâche. Une cause fréquente réside dans un jeu de données mal formaté.

Deux méthodes permettent d'identifier les détails de l'erreur :

• Diagnostics de la tâche : Dans PAI-Model Gallery, accédez à Task Management > Training Tasks. Cliquez sur la tâche ayant échoué pour ouvrir sa page Task Details. Survolez le statut Failed pour afficher un résumé de l'erreur.

  

• Journaux de la tâche : Sur la page Task Management > Training Tasks, sélectionnez l'onglet Task log pour consulter le message d'erreur complet.

  

  Messages d'erreur courants et solutions associées :

  Type d'erreur	Message d'erreur	Solution
  Erreurs d'entrée/sortie	ValueError: output channel ${your OSS uri} must be directory	Vérifiez que le chemin de sortie pointe vers un répertoire et non vers un fichier.
  	ValueError: train must be a file	Assurez-vous que le chemin d'entrée pointe vers un fichier et non vers un répertoire.
  	FileNotFoundError	Vérifiez qu'un fichier valide existe au chemin d'entrée spécifié.
  	JSONDecodeError	Vérifiez que le fichier JSON est correctement formaté.
  	ValueError: Input data must be a json file or a jsonl file!	Assurez-vous que le fichier est au format JSON ou JSONL.
  	KeyError: ${some key name}	Consultez la documentation du modèle et vérifiez que toutes les paires clé-valeur de votre jeu de données correspondent au format requis. Cette erreur survient souvent avec les jeux de données JSON.
  	ValueError: Unrecognized model in /ml/input/data/model/.	PyTorch ne reconnaît pas le format du fichier de modèle.
  	UnicodeDecoderError	Vérifiez que le fichier utilise l'encodage de caractères approprié.
  	Input/output error	Assurez-vous de disposer des autorisations de lecture pour le chemin d'entrée et des autorisations d'écriture pour le chemin de sortie.
  	NotADirectoryError: [Errno 20] Not a directory:	Vérifiez que le chemin spécifié correspond bien à un répertoire.
  Paramètres des hyperparamètres	ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: -9) local_rank: 0 (pid: 51) of binary: /usr/bin/python (and there are no related subprocess logs)	Une mémoire RAM insuffisante provoque une erreur d'épuisement de la mémoire (OOM) lors du chargement du modèle. Sélectionnez un type d'instance disposant de plus de mémoire.
  	torch.cuda.OutOfMemoryError: CUDA out of memory	Mémoire GPU insuffisante. Choisissez une instance GPU dotée de plus de VRAM, ou réduisez les hyperparamètres gourmands en mémoire tels que lora_dim ou batch_size.
  	ValueError: No closing quotation	Le system prompt ou un autre paramètre de chaîne contient un guillemet non fermé ("), ce qui empêche la génération de la commande d'entraînement. Assurez-vous que tous les guillemets sont correctement appariés.
  Configuration des ressources d'un type d'instance	Exception: Current loss scale already at minimum - cannot decrease scale anymore. Exiting run	Problème de précision. Le modèle utilise le format BF16, qui nécessite un GPU doté d'une architecture Ampere ou plus récente (par exemple, A10, A100). L'entraînement sur des GPU plus anciens convertit les paramètres en FP16, ce qui peut provoquer cette erreur de sous-dépassement.
  	RuntimeError: CUDA error: uncorrectable ECC error encountered	Défaillance matérielle sur l'instance GPU. Relancez la tâche d'entraînement. Si l'échec persiste, essayez un autre type d'instance ou une autre région.
  	MemoryError: WARNING Insufficient free disk space	Le disque est plein. Sélectionnez un type d'instance offrant plus d'espace disque.
  Erreurs liées aux limites utilisateur	failed to compose dlc job specs, resource limiting triggered, you are trying to use more GPU resources than the threshold	Quota GPU dépassé. Par défaut, les tâches d'entraînement sont limitées à 2 GPU simultanés. Attendez qu'une tâche en cours se termine, ou soumettez un ticket pour demander une augmentation du quota.

Q : Comment effectuer un débogage en ligne pour un modèle déployé ?

Après avoir déployé votre modèle en tant que service sur PAI-EAS, utilisez l'outil de débogage en ligne intégré.

1. Repérez le service déployé : Accédez à PAI-Model Gallery > Task Management > Deployment Tasks. Vous êtes redirigé vers la console PAI-EAS, où vous pouvez visualiser le service déployé.

   

2. Ouvrez l'outil de débogage : Sur la page PAI-EAS, localisez votre service. Dans la colonne Operation, cliquez sur Online Debugging.

   

3. Configurez et envoyez une requête :

   1. Consultez le format de requête requis sur la page de description du modèle dans PAI-Model Gallery. Par exemple, un modèle déployé via BladeLLM peut attendre une requête POST vers /v1/chat/completions avec un corps JSON spécifique.

      

      

   2. Dans l'interface Online Debugging, ajoutez le chemin (par exemple, /v1/chat/completions) à l'Request URL.

      

   3. Remplissez le champ Request Body en utilisant l'exemple fourni sur la page de description du modèle, puis cliquez sur Send Request.

Q : Pourquoi obtiens-je une erreur « 503 no healthy upstream » lors de l'appel de mon modèle déployé ?

Une erreur 503 Service Unavailable accompagnée du message no healthy upstream indique que l'instance de service manque de ressources et ne peut pas traiter de nouvelles requêtes.

• Cause : Les ressources de l'instance (CPU, mémoire ou mémoire GPU) sont entièrement utilisées, ne laissant aucune capacité disponible pour les nouvelles requêtes.

• Solution : L'action appropriée dépend de votre type de ressource :

  • Ressources publiques : Le pool de ressources partagées est temporairement saturé. Réessayez pendant les heures creuses, ou redéployez dans une autre région ou avec une autre spécification d'instance.

  • Ressources dédiées (groupe de ressources EAS) : Votre groupe de ressources est sous-dimensionné. Assurez-vous que le groupe dispose de suffisamment de CPU, de mémoire et de mémoire GPU. Maintenez une marge de ressources d'au moins 20 %.

Q : Pourquoi l'erreur « SupportsDistributedTraining false, please set InstanceCount=1 » s'affiche-t-elle pendant l'entraînement ?

• Cause : Le modèle sélectionné ne prend pas en charge l'entraînement distribué, mais la tâche a été configurée pour s'exécuter sur plusieurs nœuds (InstanceCount > 1).

• Solution : Définissez le paramètre Number of Nodes sur 1 dans la configuration de votre tâche d'entraînement, puis relancez la tâche.

  

Q : L'API du modèle renvoie 404 - {'detail': 'Not Found'}

Causes possibles :

1. Le service de modèle ne prend pas en charge les appels API. Certains modèles déployés depuis Model Gallery ne permettent qu'une interaction web via le bouton Web App présent sur la page des détails du service. Ces modèles ne fournissent pas de points de terminaison API compatibles OpenAI et ne peuvent pas être appelés à l'aide du SDK OpenAI. Exemple : PAI-DistilQwen2.5-7B-Instruct.

2. Le chemin de la requête est incomplet ou incorrect. Par exemple, le point de terminaison de l'API de chat suit généralement le format {domain}/api/predict/{service_name}/v1/chat/completions.

FAQ sur la sélection de modèles