Fine-tune DeepSeek-R1 distill models | PAI Model Gallery - Platform For AI: Central de Documentação do Alibaba Cloud

Modelos compatíveis

O PAI Model Gallery suporta o ajuste fino supervisionado (SFT) com LoRA para seis modelos de destilação. A tabela a seguir lista as configurações mínimas de recursos recomendadas para os hiperparâmetros padrão e o conjunto de dados fornecido.

Modelo de destilação	Modelo base	Método de treinamento compatível	Configuração mínima
DeepSeek-R1-Distill-Qwen-1,5B	Qwen2.5-Math-1,5B	Ajuste fino supervisionado com LoRA	1 × A10 (24 GB de memória de vídeo)
DeepSeek-R1-Distill-Qwen-7B	Qwen2.5-Math-7B		1 × A10 (24 GB de memória de vídeo)
DeepSeek-R1-Distill-Llama-8B	Llama-3.1-8B		1 × A10 (24 GB de memória de vídeo)
DeepSeek-R1-Distill-Qwen-14B	Qwen2.5-14B		1 × GU8IS (48 GB de memória de vídeo)
DeepSeek-R1-Distill-Qwen-32B	Qwen2.5-32B		2 × GU8IS (48 GB de memória de vídeo)
DeepSeek-R1-Distill-Llama-70B	Llama-3.3-70B-Instruct		8 × GU100 (80 GB de memória de vídeo)

Início rápido

acesse a página do Model Gallery.
1. Faça logon no PAI console. No painel de navegação à esquerda, selecione o Workspace de destino.
2. No painel de navegação à esquerda, escolha QuickStart > Model Gallery.
Na página do Model Gallery, pesquise e clique em DeepSeek-R1-Distill-Qwen-7B. A página de detalhes do modelo descreve o treinamento e a implantação, incluindo o formato de dados SFT obrigatório e os métodos de invocação.

clique em Train no canto superior direito. Configure os seguintes parâmetros principais:

Dataset: este exemplo usa o conjunto de dados padrão. Para usar seus próprios dados, prepare um conjunto de dados personalizado de acordo com o formato na página de detalhes do modelo e envie para um bucket do Object Storage Service (OSS).
Model output path: selecione um caminho do OSS para armazenar o modelo após o ajuste fino.
Compute Resource: para Source, selecione public resource. Para Instance type, selecione ecs.gn7i-c16g1.4xlarge.

Hyperparameters: hiperparâmetros compatíveis para SFT com LoRA. Ajuste conforme necessário. Fine-tuning guide for large language models.

Hyperparameters

Parâmetro	Tipo	Padrão (para o modelo 7B)	Descrição
learning_rate	float	5e-6	Controla a magnitude das atualizações de peso do modelo.
num_train_epochs	int	6	Número de passagens pelo conjunto de dados de treinamento.
per_device_train_batch_size	int	2	Amostras processadas por GPU por iteração. Valores maiores melhoram o throughput, mas exigem mais memória da GPU.
gradient_accumulation_steps	int	2	Número de etapas de acumulação de gradiente.
max_length	int	1024	Comprimento máximo de tokens de entrada por iteração de treinamento.
lora_rank	int	8	Dimensão do LoRA.
lora_alpha	int	16	Fator de escala do LoRA.
lora_dropout	float	0	Taxa de dropout para o treinamento LoRA. Evita overfitting ao descartar neurônios aleatoriamente.
lorap_lr_ratio	float	16	Proporção da taxa de aprendizado do LoRA+ (λ = ηB/ηA), onde ηA e ηB são as taxas de aprendizado das matrizes adaptadoras A e B. O LoRA+ aplica taxas de aprendizado diferentes às matrizes A e B para obter melhor desempenho e convergência mais rápida sem computação extra. defina `lorap_lr_ratio` como 0 para usar o LoRA padrão.

clique em Train. O PAI redireciona você para a página do job de treinamento para monitorar o status do job e visualizar os logs.

Após a conclusão bem-sucedida do treinamento, o PAI registra automaticamente o modelo ajustado em AI Asset Management - Models, para que você visualize o modelo ou implante-o. Register and manage models.
Após a conclusão do treinamento, clique em Deploy para implantar o modelo ajustado como um service do EAS. Use o mesmo método de invocação do modelo de destilação original, descrito na página de detalhes do modelo e em Deploy DeepSeek-V3 and DeepSeek-R1 models.

Faturamento

O treinamento no Model Gallery usa o DLC, cobrado pela duração do job. Billing for DLC.

Perguntas frequentes

P: Como solucionar problemas de um job de treinamento com falha?

defina um max_length adequado na configuração de treinamento. O algoritmo descarta dados que excedem o max_length e registra a ação no log:

Se o algoritmo descartar muitos dados, o conjunto de dados de treinamento ou validação poderá ficar vazio e causar a falha do job:
O erro failed to compose dlc job specs, resource limiting triggered, you are trying to use more GPU resources than the threshold significa que o job atingiu o limiar de recursos de GPU. Por padrão, o limite é de 2 GPUs em execução simultânea. Aguarde a conclusão dos jobs em execução ou envie um ticket para solicitar um aumento de cota.
O erro the specified vswitch vsw-**** cannot create the required resource ecs.gn7i-c32g1.8xlarge, zone not match significa que o tipo de instância não está disponível na zona de disponibilidade do vSwitch. Soluções: 1. Remova a configuração do vSwitch para que o DLC selecione automaticamente uma zona disponível. 2. Mude para um tipo de instância diferente.

P: Posso baixar o modelo após o treinamento?

Sim. defina o caminho de saída do modelo para um diretório do OSS e crie o job de treinamento. Após a conclusão do job, baixe o modelo desse caminho do OSS.

P: O que devo fazer se o desempenho do modelo for ruim?

Tente o seguinte:

Use um modelo com melhor desempenho de base, como um modelo das séries DeepSeek ou Qwen3 com um número maior de parâmetros.
Refine seus prompts.
Aumente o valor de max_tokens.
Divida tarefas complexas em subtarefas menores.

Platform For AI:Fine-tune DeepSeek-R1 distill models