General distillation - Platform For AI: Central de Documentação do Alibaba Cloud

Destilação clássica em três etapas: configuração básica → geração de dados de destilação → treinamento do modelo aluno. Escolha os modelos professor e aluno e os conjuntos de dados. Configure os parâmetros de destilação e treinamento para atender à maioria dos cenários de uso geral.

Visão geral do modelo

O modelo de destilação geral é o modelo base no ModelDistill. Ele usa a destilação de caixa preta — aumento de dados generativo seguido de treinamento SFT.

Ao contrário dos modelos específicos de cenário, a destilação geral segue o pipeline padrão de três etapas, sem orquestração predefinida de operadores para um tipo específico de tarefa. Você controla cada etapa. Os modelos específicos de cenário já cobrem tipos de tarefas comuns, como destilação de instruções, destilação de cadeia de pensamento, destilação multimodal e destilação de chamadas de ferramenta de Agent. Primeiro, avalie se um modelo específico de cenário atende à sua tarefa. Use a destilação geral quando nenhum deles for adequado.

A destilação geral segue um pipeline fixo de três estágios. O assistente de criação permite configurar cada estágio. O sistema salva os dados de destilação e os artefatos de treinamento separadamente para reutilização.

Configuração básica: defina o nome da tarefa, o nome do modelo de saída e o caminho.
Geração de dados de destilação: chame o modelo professor para gerar respostas de alta qualidade a partir dos dados de source e crie um conjunto de dados SFT de destilação.
Treinamento do modelo aluno: faça o ajuste fino do modelo aluno com os dados de destilação e produza um modelo destilado pronto para implantação.

Início rápido

O passo a passo a seguir usa um conjunto de dados público do PAI e configurações padrão para demonstrar uma tarefa completa de destilação geral.

Acesse a seção Model Application > Model Distillation (ModelDistill) no PAI console.
Clique em Create task e acesse a aba Distillation Template ou acesse a aba Distillation Template diretamente.
Selecione General Distillation, clique em Use Template e acesse a página Create Distillation Task. Configure os principais parâmetros descritos abaixo e mantenha os valores padrão para as outras configurações.
Preencha a Basic Configuration:
- Task name e Model Name: o sistema preenche estes campos automaticamente.
- Model output path: especifique um caminho do OSS ao qual você tenha acesso, como oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/model-distill/model.
  
  Nota
  Crie um diretório de saída separado para cada tarefa de destilação e evite a sobrescrita dos arquivos do modelo. O bucket do OSS deve estar na mesma região do service do PAI.
Clique em Next e acesse a etapa Build distillation data:
- Teacher model: Teacher Model Source — selecione Token Service e escolha um modelo na lista suspensa, como qwen3.8-max.
- Dataset: selecione Public Dataset e escolha Chinese-medical-dialogue-data na lista suspensa. Para usar seus próprios dados, selecione Custom Dataset.
- Confirm distillation data: especifique um caminho do OSS ao qual você tenha acesso como o Distillation output path, como oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/model-distill/dist-data.
- Compute Resource: defina o Resource Type como General Computing e a Source como Public Resources. Em seguida, selecione um Instance Type adequado em Job Resource.
Clique em Next e acesse a etapa Student model training:
- Student Model: selecione Public Model e escolha um modelo menor na lista suspensa, como Qwen3-4B.
- Training Mode: selecione LoRA.
- Compute Resource: defina o Resource Type como General Computing e a Source como Public Resources. Em seguida, selecione um Instance Type adequado em Job Resource.
Clique em OK e, em seguida, clique em OK no aviso de faturamento. A página redireciona para os detalhes da tarefa, onde você acompanha o status. A duração estimada é de 20 a 40 minutos para um conjunto de dados pequeno (100 a 1.000 entradas).

Referência de configuração

Geração de dados de destilação

Modelo professor: aceita as seguintes origens:
- PAI Token Service.
- PAI-EAS Service: o sistema suporta apenas services do EAS implantados a partir de modelos do Model Gallery — diretamente ou após ajuste fino.
Conjunto de dados: aceita tanto conjuntos de dados públicos de destilação quanto conjuntos de dados personalizados. Os dados devem estar no formato JSON e incluir o campo instruction (coluna de pergunta). O campo output (coluna de saída) não é obrigatório.
```
[
    {
        "instruction": "What is the capital of France?"
    },
    {
        "instruction": "Explain what artificial intelligence is."
    }
]
```
Confirm distillation data: escolha como o sistema lida com os dados de destilação gerados após a conclusão da geração de dados.
- Auto-confirm (recomendado): o sistema valida e aprova os dados automaticamente e, em seguida, inicia o treinamento do modelo aluno. Ideal para conjuntos de dados públicos ou quando você confia na qualidade dos dados.
- Manually confirm: exige revisar manualmente a qualidade dos dados antes de iniciar o treinamento. Indicado para requisitos rigorosos de qualidade de dados ou ao usar um conjunto de dados personalizado pela primeira vez. O procedimento é o seguinte:
  1. Após a conclusão da geração de dados de destilação, o status da tarefa muda para Waiting for distillation data confirmation.
  2. Clique em Confirm distillation data na coluna Actions. O sistema exibe a caixa de diálogo de confirmação.
  3. Na caixa de diálogo, clique em Click to view e visualize os detalhes do conjunto de dados de destilação.
    - Se a qualidade dos dados atender às suas expectativas, clique em Confirm e confirme para prosseguir com o treinamento do modelo aluno.
    - Se os dados não atenderem às suas expectativas, clique em Cancel e cancele a tarefa no estágio atual.

Treinamento do modelo aluno

O modelo aluno pode ser um modelo público do Model Gallery ou um modelo personalizado (atualmente limitado a LLMs com ajuste fino no Model Gallery). Certifique-se de que o modelo aluno tenha menos parâmetros do que o modelo professor.

Modo de treinamento

Selecione o método SFT para o modelo aluno.

LoRA (recomendado): método de ajuste fino com eficiência de parâmetros que mantém um bom desempenho e reduz significativamente os requisitos de memória da GPU.
QLoRA: variante quantizada do LoRA que reduz ainda mais o uso de memória da GPU. Projetado para treinamento em ambientes com recursos mais limitados.
Ajuste fino de todos os parâmetros: atualiza todos os parâmetros do modelo. Teoricamente, produz os melhores resultados, mas exige tempo e recursos computacionais substanciais, o que resulta em custos elevados.

Conjunto de validação

Selecione o conjunto de dados de validação usado para avaliar o desempenho do modelo durante o treinamento.

Don't configure: o sistema não realiza validação durante o treinamento. Mais indicado para experimentos rápidos ou conjuntos de dados pequenos.
Auto-split distillation data (recomendado): o sistema divide automaticamente o conjunto de dados de destilação gerado em conjuntos de treinamento e validação. A proporção padrão do conjunto de validação é de 5%.
Add validation dataset: especifique um conjunto de dados independente do OSS como conjunto de validação. Recomendado quando você já possui um conjunto de dados de validação padrão.

Hiperparâmetros

Estes hiperparâmetros controlam o processo de treinamento SFT para o modelo aluno.

Parâmetro	Descrição	Dicas de ajuste
`learning_rate`	Taxa de aprendizado. Controla o tamanho do passo para as atualizações dos parâmetros do modelo. Padrão: 5e-5.	• Se a perda de treinamento diminuir lentamente, tente aumentar a taxa de aprendizado. • Se a perda oscilar bruscamente ou não convergir, reduza a taxa de aprendizado.
`num_train_epochs`	Número de épocas de treinamento — quantas vezes o sistema repete todo o conjunto de dados durante o treinamento. Padrão: 1.	• Para conjuntos de dados grandes, 1 a 3 épocas geralmente são suficientes. • Muitas épocas podem causar overfitting.
`per_device_train_batch_size`	Número de amostras processadas por dispositivo GPU em uma única etapa de treinamento. Padrão: 1.	• Aumente este valor quando a memória da GPU permitir, para acelerar o treinamento e potencialmente estabilizar o processo. • Se você encontrar erros de falta de memória (OOM), reduza este valor primeiro.
`seq_length`	Comprimento máximo da sequência (em tokens) alimentado no modelo aluno. Padrão: 128.	• Defina este valor com base nas características dos seus dados e no caso de uso. Textos mais longos exigem um `seq_length` maior. • Aumentar este valor eleva significativamente o consumo de memória da GPU.

Melhores práticas

Otimização de custos

Tipo de recurso:
- Testes e tarefas pequenas: use recursos públicos para acesso sob demanda e pagamento conforme o uso.
- Produção e tarefas de alta prioridade: use resource quotas para obter recursos estáveis e custos previsíveis.
- Tarefas sensíveis a custos e tolerantes a falhas: experimente recursos preemptíveis para computação de menor custo, com o risco de interrupção da tarefa.
Comece com um conjunto de dados pequeno: antes de aplicar a destilação em grande escala, execute todo o pipeline em um pequeno subconjunto (100 a 1.000 entradas) para verificar sua configuração. Isso evita o desperdício de recursos computacionais em tarefas mal configuradas.
Otimize seu conjunto de dados: conjuntos de dados iniciais menores e de maior qualidade reduzem os custos de inferência do modelo professor e o tempo de treinamento do modelo aluno.
Use o treinamento QLoRA: o QLoRA treina em um modelo quantizado, o que reduz significativamente os requisitos de memória da GPU e permite o uso de GPUs com especificações inferiores (e mais baratas).
Defina um tempo limite razoável: configure um tempo máximo de execução para impedir que as tarefas continuem em execução indefinidamente devido a problemas inesperados, gerando cobranças desnecessárias.

Ajuste de desempenho

A qualidade do conjunto de dados é o fator-chave: o modelo professor define o limite superior para a qualidade da destilação, mas o conjunto de dados de destilação define o limite inferior. Certifique-se de que o conjunto de dados de origem cubra seus cenários de negócios, tenha instruções claras e contenha conteúdo diversificado.
Ajuste de hiperparâmetros:
- Se a perda do modelo aluno não diminuir ou divergir, reduza a taxa de aprendizado (learning_rate) primeiro.
- Se você encontrar erros de OOM, reduza o tamanho do lote (per_device_train_batch_size) ou o comprimento da sequência (seq_length) primeiro.
Monitore a utilização da GPU: verifique a utilização da GPU no monitoramento de tarefas. Uma utilização baixa indica que suas GPUs estão subutilizadas. Tente aumentar o per_device_train_batch_size para melhorar o throughput.

Avaliação

Após a conclusão da destilação, avalie o modelo aluno.

Implante o modelo: na página de detalhes da tarefa, clique em Deploy no canto superior direito para implantar o modelo aluno destilado como um service de inferência online.
Avaliação comparativa: use o recurso de avaliação de modelos do PAI para comparar as métricas de desempenho dos modelos professor e aluno (como precisão e BLEU) no mesmo conjunto de dados de avaliação e quantificar a lacuna de desempenho.
Validação em produção: antes de entrar em produção, execute um teste canário com uma pequena porcentagem de tráfego. Compare a velocidade de inferência, o uso de recursos e as métricas de negócios entre o modelo destilado e o modelo original em cenários reais de negócios.