AI engine usage examples - Lindorm - Centre de documentation Alibaba Cloud

Le moteur d'IA Lindorm met à disposition un ensemble d'API RESTful. Utilisez des commandes curl pour gérer les modèles et effectuer des inférences. Cette rubrique explique comment appeler ces API avec curl.

Prérequis

Le moteur d'IA est activé. Pour plus d'informations, consultez la section Activer le moteur AI.
L'adresse IP de votre client figure dans la liste d'autorisation de votre instance Lindorm. Pour plus d'informations, consultez la section Configurer une liste d'autorisation.

Paramètres

Remarque

Les paramètres suivants s'appliquent à tous les exemples de cette rubrique.

Paramètre	Description	Comment l'obtenir
url	Endpoint de connexion au moteur d'IA.	Sur la page Database Connection, cliquez sur l'onglet AI Engine pour obtenir l'endpoint, le nom d'utilisateur et le mot de passe.
username	Nom d'utilisateur et mot de passe d'accès au moteur d'IA.
password	Nom d'utilisateur et mot de passe d'accès au moteur d'IA.

Exemple de connexion

curl -X GET "http://ld-bp1hq5192030n****-proxy-ai-vpc.lindorm.aliyuncs.com:9002/v1/ai/models/list" \
-H "x-ld-ak: test" \
-H "x-ld-sk: test"

Important

Le numéro de port 9002 est obligatoire.

Gestion des modèles

Créer un modèle

Créez un modèle nommé bge_m3_model dans le moteur d'IA.

curl -X POST "http://<url>/v1/ai/models/create" \
-H "x-ld-ak: <username>" \
-H "x-ld-sk: <password>" \
-H "Content-Type: application/json" \
-d '{
    "model_name": "bge_m3_model",
    "model_path": "huggingface://BAAI/bge-m3",
    "task": "FEATURE_EXTRACTION",
    "algorithm": "BGE_M3"
}'

Réponse :

{"code": 0,"msg": "SUCCESS","data": null,"success": true}

Lister tous les modèles

curl -X GET "http://<url>/v1/ai/models/list" \
-H "x-ld-ak: <username>" \
-H "x-ld-sk: <password>"

Réponse :

{
  "code": 0,
  "msg": "SUCCESS",
  "data": {
    "models": [{
      "name": "bge_m3_model",
      "status": "READY",
      "created_time": "...",
      "updated_time": "...",
      ...
    }, {
      "name": "bge_model",
      "status": "READY",
      ...
    }]
  },
  "success": true
  "request_id":"..."
}

Obtenir les détails d'un modèle

curl -X GET "http://<url>/v1/ai/models/bge_m3_model/status" \
-H "x-ld-ak: <username>" \
-H "x-ld-sk: <password>"

Réponse :

{
  "code": 0,
  "msg": "SUCCESS",
  "data": {
    "name": "bge_m3_model",
    "status": "READY",
    "task_type":"FEATURE_EXTRACTION",
    "algorithm":"BGE_M3",
    "settings": "...",
    "error":"...",
    "progress": "...",
    ...
  },
  "success": true
}

Supprimer un modèle

Supprimez le modèle bge_m3_model.

curl -X POST "http://<url>/v1/ai/models/bge_m3_model/drop" \
-H "x-ld-ak: <username>" \
-H "x-ld-sk: <password>"

Réponse :

{"code": 0,"msg": "SUCCESS","data": null,"success": true}

Inférence de modèle

Exécuter une inférence avec un modèle existant

curl -X POST "http://<url>/v1/ai/models/bge_m3_model/infer" \
  -H "x-ld-ak: <username>" \
  -H "x-ld-sk: <password>" \
  -H "Content-Type: application/json" \
  -d '{"input":["hello","ours"]}' \

Cette commande renvoie le résultat d'inférence suivant :

{
  "code": 0,
  "msg": "SUCCESS",
  "data": [[0.027204733341932297,0.004229982383549213, ...], 
  [-0.05367295444011688,0.022600287571549416, ...]],
  "success": true
}

Ajustement des paramètres

Ajustez les paramètres d'un modèle déployé.

curl -X POST "http://<url>/v1/ai/models/bge_m3_model/update_config" \
  -H "x-ld-ak: <username>" \
  -H "x-ld-sk: <password>" \
  -H "Content-Type: application/json" \
  -d '{"instance_count": "2"}' \

En cas de succès, la réponse est la suivante :

{"code": 0,"msg": "SUCCESS","data": null,"success": true}