Platform For AI:Fine-tune DeepSeek-R1 distill models

Modèles pris en charge

PAI Model Gallery prend en charge l'affinage supervisé LoRA (SFT) pour six modèles distillés. Le tableau ci-dessous répertorie les configurations de ressources minimales recommandées lors de l'utilisation des hyperparamètres par défaut et du jeu de données fourni.

Démarrage rapide

1. Accédez à la page Model Gallery.

   1. Connectez-vous à la console PAI. Dans le volet de navigation de gauche, sélectionnez votre Workspace cible.

   2. Dans le volet de navigation de gauche, choisissez QuickStart > Model Gallery.

      Dans l'onglet Model Gallery, saisissez DeepSeek-R1-Distill-Qwen-7B dans la zone de recherche et repérez la fiche de modèle correspondante dans les résultats.

2. Sur la page Model Gallery, recherchez et cliquez sur DeepSeek-R1-Distill-Qwen-7B. La page des détails du modèle décrit les procédures d'entraînement et de déploiement, y compris le format de données SFT requis et les méthodes d'appel.

   L'entraînement SFT prend en charge l'algorithme LoRA. Le jeu de données d'entraînement accepte les formats JSON et JSONL, avec des exemples de données fournis aux formats messages, sharegpt et alpaca.

3. Cliquez sur Train dans le coin supérieur droit. Configurez les paramètres clés suivants :

   • Dataset Configuration : cet exemple utilise le jeu de données par défaut. Pour utiliser vos propres données, préparez un jeu de données personnalisé selon le format indiqué sur la page des détails du modèle et téléchargez-le dans un compartiment Object Storage Service (OSS).

   • Model output path : sélectionnez un chemin OSS pour stocker le modèle affiné.

   • Compute Resource : pour Source, sélectionnez public resource. Pour Instance type, sélectionnez ecs.gn7i-c16g1.4xlarge.

   • Hyperparameters : hyperparamètres pris en charge pour l'affinage SFT LoRA. Ajustez-les selon vos besoins. Guide d'affinage des grands modèles de langage.

     Hyperparamètres

     Paramètre	Type	Valeur par défaut (pour le modèle 7B)	Description
     learning_rate	float	5e-6	Contrôle l'ampleur des mises à jour des poids du modèle.
     num_train_epochs	int	6	Nombre de passages sur le jeu de données d'entraînement.
     per_device_train_batch_size	int	2	Échantillons traités par GPU et par itération. Des valeurs plus élevées améliorent le débit, mais nécessitent davantage de mémoire GPU.
     gradient_accumulation_steps	int	2	Nombre d'étapes d'accumulation du gradient.
     max_length	int	1024	Longueur maximale des jetons d'entrée par itération d'entraînement.
     lora_rank	int	8	Dimension LoRA.
     lora_alpha	int	16	Facteur d'échelle LoRA.
     lora_dropout	float	0	Taux de dropout pour l'entraînement LoRA. Prévention du surapprentissage par désactivation aléatoire de neurones.
     lorap_lr_ratio	float	16	Rapport de taux d'apprentissage LoRA+ (λ = ηB/ηA), où ηA et ηB représentent les taux d'apprentissage des matrices d'adaptateur A et B. LoRA+ applique des taux d'apprentissage distincts aux matrices A et B pour améliorer les performances et accélérer la convergence sans coût de calcul supplémentaire. Définissez lorap_lr_ratio sur 0 pour utiliser LoRA standard.

4. Cliquez sur Train. PAI vous redirige vers la page de la tâche d'entraînement, où vous pouvez surveiller l'état de la tâche et consulter les journaux.

   La tâche d'entraînement traverse quatre étapes : Creating, Preparing Environment, Running et Succeeded, ce qui prend environ 6 minutes. Dans l'onglet Task Logs, vous pouvez afficher les journaux détaillés concernant le chargement des points de contrôle du modèle, la fusion des poids LoRA et l'exportation du modèle fusionné.

   Une fois l'entraînement terminé avec succès, le modèle affiné est automatiquement enregistré dans AI Asset Management - Models, où vous pouvez le consulter ou le déployer. Enregistrer et gérer des modèles.

5. Une fois l'entraînement achevé, cliquez sur Deploy pour déployer le modèle affiné en tant que service EAS. Utilisez la même méthode d'appel que pour le modèle distillé d'origine, décrite sur la page des détails du modèle et dans Déployer les modèles DeepSeek-V3 et DeepSeek-R1.

Facturation

L'entraînement via Model Gallery utilise DLC, facturé en fonction de la durée de la tâche. Facturation de DLC.

FAQ

Rubriques connexes

• Déployer les modèles DeepSeek-V3 et DeepSeek-R1

• Guide d'affinage des grands modèles de langage

• FAQ Model Gallery