Debug a service online - Platform For AI - Centre de documentation Alibaba Cloud

Après avoir déployé un service, utilisez la fonctionnalité de débogage en ligne de la console pour vérifier son bon fonctionnement. Cette interface graphique vous permet d'envoyer des requêtes de test et de consulter les réponses directement, sans écrire de code.

Remarque

Certains services ne prennent pas en charge le débogage en ligne. Par exemple, pour ComfyUI et SDWebUI, le débogage en ligne est disponible uniquement dans l'édition Standard.

Utilisation du débogage en ligne

Accédez à la page de débogage en ligne.
1. Connectez-vous à la PAI console. Sélectionnez une région en haut de la page. Choisissez ensuite l'espace de travail souhaité et cliquez sur Enter Elastic Algorithm Service (EAS).
2. Dans l'onglet Inference Service, repérez le service à tester. Dans la colonne Actions du service, cliquez sur > Online Debugging.
Construisez et envoyez la requête. Les définitions d'API, notamment le chemin d'URL et le format du corps de la requête, varient considérablement selon le modèle. Fournissez les paramètres de requête appropriés. Une requête standard comprend les éléments suivants :
- Méthode : Généralement POST ou GET.
- Chemin de la requête : L'outil de débogage en ligne renseigne automatiquement l'adresse de base. Vous devrez peut-être ajouter un chemin d'API spécifique. Un chemin incorrect est la cause la plus fréquente des erreurs 404 Not Found.
- En-têtes de requête : Le jeton Authorization est généralement renseigné automatiquement et ne nécessite aucune modification.
- Corps de la requête : Le corps de la requête doit être formaté conformément aux exigences de l'API. Un corps mal formé est la principale cause des erreurs 400 Bad Request ou 500 Internal Server Error.

Exemple

Cet exemple illustre le test de l'API de complétion de chat d'un service de modèle Qwen2,5-7B-Instruct déployé avec vLLM. Les paramètres sont les suivants :

Méthode : POST
Chemin de la requête : http://***********/v1/chat/completions (Ajoutez /v1/chat/completions à l'URL renseignée automatiquement.)

Corps de la requête :

{
    "model": "Qwen2.5-7B-Instruct",
    "messages": [
        {
            "role": "user",
            "content": "What is the capital of Canada?"
        }
    ]
}

Une requête réussie renvoie un code d'état 200. Le corps de la réponse contient un objet chat.completion, où le champ content renvoie The capital of Canada is Ottawa. Les détails d'usage indiquent 36 prompt_tokens, 8 completion_tokens et 44 total_tokens.

FAQ

Comment déterminer l'URL et le corps de requête corrects ?

Cela dépend du modèle déployé. Pour plus d'informations, consultez la rubrique Construction de requêtes pour des scénarios types.

Étapes suivantes

Évaluez les performances : Utilisez la fonctionnalité de test de charge d'EAS pour évaluer les performances du service.
Appelez le service : Une fois que le service répond à vos exigences de performance, commencez à l'appeler. Pour plus d'informations, consultez la rubrique relative à l'appel de service.