Large language model services supported by AI Search Open Platform - OpenSearch

AI Search Open Platform vous permet d'appeler des services de grands modèles de langage (LLM) via une API. Ces services incluent des grands modèles de langage spécifiques à la génération augmentée par récupération (RAG), affinés sur la base des modèles fondamentaux propriétaires d'Alibaba. Vous pouvez utiliser ces modèles dans des scénarios RAG en combinaison avec des services de traitement et de récupération de documents afin d'améliorer la précision des réponses et de réduire le taux d'hallucination.

Service	ID du service (service_id)	Description	Limite QPS (pour les comptes Alibaba Cloud et les utilisateurs RAM)
Qwen3-235B-A22B	qwen3-235b-a22b	Un grand modèle de langage (LLM) de nouvelle génération de la série Qwen. Grâce à un entraînement intensif, Qwen3 réalise des percées en matière d'inférence, de suivi des instructions, de capacités d'agent et de prise en charge multilingue. Il prend en charge plus de 100 langues et dialectes, démontrant une puissante compréhension, capacité de raisonnement et génération multilingues.	3 Remarque Pour demander une limite QPS d'API plus élevée, soumettez un ticket au support technique.
OpenSearch-Qwen-Turbo	ops-qwen-turbo	Ce modèle utilise le grand modèle de langage Qwen-Turbo comme fondation. Il est affiné à l'aide d'un apprentissage supervisé pour améliorer les capacités de récupération et réduire la génération de contenu nocif.
Qwen-Turbo	qwen-turbo	Le modèle le plus rapide et le plus rentable de la série Qwen. Il convient aux tâches simples.
Qwen-Plus	qwen-plus	Un modèle équilibré offrant des performances, un coût et une vitesse intermédiaires entre Qwen-Max et Qwen-Turbo. Il convient aux tâches modérément complexes.
Qwen-Max	qwen-max	Le modèle le plus performant de la série Qwen. Il convient aux tâches complexes en plusieurs étapes.
DeepSeek-R1	deepseek-r1	Un grand modèle de langage spécialisé dans les tâches de raisonnement complexe. Il excelle dans la compréhension d'instructions complexes, garantissant la précision des résultats, et prend en charge la fonctionnalité de recherche web.
DeepSeek-V3	deepseek-v3	DeepSeek-V3 est un modèle Mixture-of-Experts (MoE) qui excelle dans le traitement de textes longs, de code, de mathématiques et de connaissances encyclopédiques, avec une maîtrise exceptionnelle du chinois.
DeepSeek-R1-distill-qwen-7b	deepseek-r1-distill-qwen-7b	Un modèle créé par distillation de connaissances pour affiner Qwen-7B avec des échantillons d'entraînement générés par DeepSeek-R1.
DeepSeek-R1-distill-qwen-14b	deepseek-r1-distill-qwen-14b	Un modèle créé par distillation de connaissances pour affiner Qwen-14B avec des échantillons d'entraînement générés par DeepSeek-R1.
DeepSeek-V4-Pro	deepseek-v4-pro	Un modèle phare Mixture-of-Experts (MoE) comptant 1,6 billion de paramètres totaux et 49 milliards de paramètres activés, prenant nativement en charge un contexte ultra-long de millions de jetons. Construit sur des données d'entraînement massives de haute qualité, il possède des capacités de premier rang en logique mathématique, raisonnement complexe, codage professionnel et analyse approfondie de textes longs. Il est idéal pour des scénarios avancés tels que la recherche scientifique de haut niveau, les tâches bureautiques complexes et les agents intelligents profonds.
DeepSeek-V4-Flash	deepseek-v4-flash	Un modèle Mixture-of-Experts (MoE) efficace et léger comptant 284 milliards de paramètres totaux et 13 milliards de paramètres activés, prenant nativement en charge un contexte ultra-long de millions de jetons. Il se caractérise par une inférence rapide, une faible latence et un coût réduit. Avec des capacités globales équilibrées, il est conçu pour les tâches légères à forte concurrence et convient aux scénarios généralistes tels que la conversation quotidienne, la création de contenu, le RAG basique et le traitement de texte par lots.

Prérequis

Obtenir les informations d'authentification

La plateforme ouverte AI Search nécessite une clé API pour l'authentification. Pour obtenir des instructions, consultez Obtenir une clé API.
Obtenir le point de terminaison du service

Vous pouvez appeler le service via le réseau public ou un VPC. Pour plus de détails, consultez Obtenir le point de terminaison du service.

Requête

Remarques générales

Le corps de la requête ne doit pas dépasser 8 Mo.

Méthode HTTP

POST

URL

{host}/v3/openapi/workspaces/{workspace_name}/text-generation/{service_id}

Paramètres de chemin

host : le point de terminaison du service. Vous pouvez appeler l'API via Internet ou depuis un VPC. Pour plus d'informations, consultez Obtenir un point de terminaison de service.

Sur la page API keys, dans la section Access Domain Names, vous trouverez les champs Public API Domain Name et Private API Domain Name (VPC). Sélectionnez le nom de domaine approprié comme hôte. Vous pouvez basculer vers l'espace de travail cible à l'aide de la liste déroulante en haut de la page.
workspace_name : le nom de l'espace de travail. Exemple : default.
service_id : l'ID du service intégré. Exemple : ops-qwen-turbo.

Paramètres de requête

Paramètres d'en-tête

Authentification par clé API

Paramètre	Type	Requis	Description	Exemple
Content-Type	String	Oui	Le format de la requête. Doit être `application/json`.	application/json
Authorization	String	Oui	La clé API pour l'authentification.	Bearer OS-d1**2a

Paramètres du corps

Paramètre	Type	Requis	Description	Exemple
messages	List	Oui	L'historique de conversation entre l'utilisateur et le modèle. Chaque élément de la liste est un objet comportant une clé `role` et une clé `content`. Les rôles disponibles sont `system`, `user` et `assistant`. `system` : un message au niveau du système. Ce rôle ne peut être utilisé que pour le premier message de l'historique (`messages[0]`). L'utilisation du rôle `system` est facultative, mais s'il est présent, il doit figurer au début de la liste. `user` et `assistant` : représentent le dialogue entre l'utilisateur et le modèle. Ces rôles doivent alterner pour simuler une conversation. Le `role` du dernier message doit être `user`.
stream	Boolean	Non	Indique s'il faut renvoyer une réponse en flux continu. La valeur par défaut est `false`. Si ce paramètre est défini sur `true`, la réponse est diffusée en flux continu, chaque partie contenant le texte cumulé généré jusqu'à ce point.	false
enable_search	Boolean	Non	Indique s'il faut activer la recherche web. La valeur par défaut est `false`. Lorsque ce paramètre est défini sur `true`, le grand modèle de langage utilise une invite interne pour déterminer si une recherche web est nécessaire. Remarque Cette fonctionnalité est actuellement prise en charge uniquement par le modèle deepseek-r1.	false
csi_level	String	Non	Le niveau de modération du contenu. Valeur par défaut : `strict`. Valeurs valides : `none` : aucune modération de contenu. `loose` : filtrage souple. `strict` : filtrage strict. `rigorous` : filtrage rigoureux.	strict
parameters	Map	Non	Une carte des paramètres ajustables pour le grand modèle de langage.	N/A
parameters.search_return_result	Boolean	Non	Ce paramètre prend effet uniquement lorsque `enable_search` est défini sur `true`. `true` : renvoie les résultats de la recherche web. `false` : ne renvoie pas les résultats de la recherche web.	false
parameters.search_top_k	Integer	Non	Le nombre de résultats de recherche web à renvoyer. Remarque Ce paramètre prend effet uniquement lorsque `enable_search` est défini sur `true`. Il est pris en charge uniquement par le modèle deepseek-r1.	5
parameters.search_way	String	Non	La stratégie de recherche web, identique à celle de l'API de recherche web. `normal` (par défaut) : le modèle réécrit la requête, effectue une recherche web et filtre les résultats à l'aide de la vectorisation. `fast` : le modèle réécrit la requête et effectue une recherche web. Les résultats de la recherche ne sont pas filtrés. `full` : le modèle réécrit la requête, effectue une recherche web, puis utilise le modèle pour évaluer et filtrer les résultats. Remarque Ce paramètre prend effet uniquement lorsque `enable_search` est défini sur `true`. Il est pris en charge uniquement par le modèle deepseek-r1.	normal
parameters.seed	Integer	Non	Une graine de nombre aléatoire pour la génération. Elle contrôle le caractère aléatoire de la sortie du modèle. La graine doit être un entier non signé de 64 bits. Lorsqu'une graine est fournie, le modèle tente de produire des résultats identiques ou similaires, mais la détermination de la sortie n'est pas garantie.	"parameters":{"seed":666}
parameters.max_tokens	Integer	Non	Le nombre maximal de jetons à générer. Pour Qwen-Turbo, la valeur maximale et par défaut est de 1 500. Pour Qwen-Max et Qwen-Plus, la valeur maximale et par défaut est de 2 000.	"parameters":{"max_tokens":1500}
parameters.top_p	Float	Non	Le seuil de probabilité pour l'échantillonnage par noyau (nucleus sampling). Par exemple, une valeur de `0,8` signifie que seuls les jetons appartenant au plus petit ensemble ayant une probabilité cumulative supérieure ou égale à 80 % sont pris en compte pour l'échantillonnage. La valeur doit se situer dans la plage (0, 1,0). Une valeur plus élevée augmente le caractère aléatoire, tandis qu'une valeur plus faible le réduit.	"parameters":{"top_p":0.7}
parameters.top_k	Integer	Non	La taille de l'ensemble de candidats pour l'échantillonnage. Par exemple, une valeur de `50` signifie que seuls les 50 jetons les plus probables sont utilisés comme ensemble de candidats pour l'échantillonnage aléatoire. Une valeur plus élevée augmente le caractère aléatoire, tandis qu'une valeur plus faible augmente le déterminisme. Remarque : si `top_k` n'est pas spécifié ou si sa valeur est supérieure à 100, cette stratégie est désactivée et seule la stratégie `top_p` prend effet.	"parameters":{"top_k":50}
parameters.repetition_penalty	Float	Non	Contrôle la pénalité appliquée à la répétition des jetons dans une séquence. Des valeurs plus élevées réduisent la répétition. Une valeur de `1,0` signifie qu'aucune pénalité n'est appliquée. La valeur doit être supérieure à 0.	"parameters":{"repetition_penalty":1.0}
parameters.presence_penalty	Float	Non	Contrôle la pénalité appliquée à la répétition des jetons n'importe où dans l'ensemble de la sortie. Des valeurs plus élevées réduisent la répétition. La valeur doit se situer dans la plage [-2,0, 2,0].	"parameters":{"presence_penalty":1.0}
parameters.temperature	Float	Non	Contrôle le degré de hasard et de diversité dans la sortie. Une valeur de température plus élevée lisse la distribution de probabilité des jetons candidats, rendant les mots moins probables plus fréquents et augmentant la diversité. Une valeur plus faible accentue le pic de la distribution, rendant les mots à forte probabilité plus fréquents et augmentant le déterminisme. La valeur doit se situer dans la plage [0, 2). Une valeur de 0 n'est pas recommandée.	"parameters":{"temperature":0.85}
parameters.stop	string/array	Non	Permet un contrôle précis en arrêtant la génération avant que le modèle ne produise une chaîne ou un ID de jeton spécifié. Le contenu généré n'inclura pas la séquence d'arrêt. La valeur peut être une chaîne ou un tableau. type string Le modèle s'arrête lorsqu'il est sur le point de générer le mot d'arrêt spécifié. Par exemple, si `stop` est « Hello », la génération s'arrête juste avant la sortie de « Hello ». type array Les éléments peuvent être des chaînes, des ID de jetons ou un tableau d'ID de jetons. La génération s'arrête lorsque le prochain jeton à générer (ou son ID correspondant) se trouve dans le tableau d'arrêt. Par exemple, si vous définissez `stop` sur `["hello","weather"]` ou `[108386,104307]`, le modèle s'arrêtera lorsqu'il sera sur le point de générer « hello » ou « weather ». Si vous définissez `stop` sur `[[108386, 103924],[35946, 101243]]`, le modèle s'arrêtera lorsqu'il sera sur le point de générer « hello there » ou « I'm fine ». Remarque Lorsque `stop` est un tableau, vous ne pouvez pas mélanger des chaînes et des ID de jetons dans le même tableau de premier niveau. Par exemple, `["Hello", 104307]` n'est pas valide.	"parameters":{"stop":["Hello","Weather"]}

Remarque

La limite maximale de jetons pour ops-qwen-turbo est de 4 000.

Paramètres de réponse

Paramètre	Type	Description	Exemple
result.text	String	Le texte généré par le modèle.	Zhengzhou est une...
result.search_results	List<SearchResult>	Si `enable_search` est défini sur `true` et `parameters.search_return_result` est défini sur `true`, ce champ contient les résultats de la recherche web.	[]
result.search_results[].title	String	Le titre du résultat de recherche.	Météo d'aujourd'hui à Zhengzhou
result.search_results[].url	String	L'URL du résultat de recherche.	https://xxxx.com
result.search_results[].snippet	String	Un bref extrait du contenu de la page web du résultat de recherche.	Il fait beau aujourd'hui à Zhengzhou.
usage.output_tokens	Integer	Le nombre de jetons dans le texte généré.	100
usage.input_tokens	Integer	Le nombre de jetons dans l'invite d'entrée.	100
usage.total_tokens	Integer	Le nombre total de jetons pour la requête (entrée et sortie).	200

Exemple de requête cURL

curl -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
"http://xxxx-hangzhou.opensearch.aliyuncs.com/v3/openapi/workspaces/default/text-generation/qwen-max" \
-d '{
      "messages":[
      {
          "role":"system",
          "content":"You are a helpful assistant."
      },
      {
          "role":"user",
          "content":"What is the capital of Henan Province?"
      },
      {
          "role":"assistant",
          "content":"Zhengzhou"
      },
      {
          "role":"user",
          "content":"What is the weather like in Zhengzhou today?"
      }
      ],
      "parameters":{
          "search_return_result":true,
          "search_top_k":5,
          "search_way":"normal"
      },
       "stream":false,
       "enable_search":true
}'

Exemples de réponse

Exemple de réponse réussie

{
  "request_id": "450fcb80-f796-****-8d69-e1e86d29aa9f",
  "latency": 564.903929,
  "result": {
    "text":"According to the latest weather forecast, it will be cloudy in Zhengzhou today, with temperatures between 9°C and 19°C, and a light northeasterly breeze...",
     "search_results":[
      {
        "url":"https://xxxxx.com",
        "title":"xxxx",
        "snippet":"The weather in Zhengzhou is sunny today."
      }
    ]
   },
  "usage": {
      "output_tokens": 934,
      "input_tokens": 798,
      "total_tokens": 1732
  }
}

Exemple de réponse d'erreur

En cas d'erreur, la réponse inclut un code et un message qui expliquent l'erreur.

{
    "request_id": "45C8C9E5-6BCB-****-80D3-E298F788512B",
    "latency": 0,
    "code": "InvalidParameter",
    "message": "JSON parse error: Unexpected character ..."
}

Codes d'état

Pour plus d'informations, consultez Codes d'état pour AI Search Open Platform.