Platform For AI:Coding Agent Distillation

Visão geral do modelo

Use o modelo Coding Agent Distillation para treinar modelos com capacidades de codificação. Um coding agent modifica o código real em um sandbox remoto, reproduz as alterações e as testa em um sandbox limpo. O sistema mantém apenas as trajetórias cujas alterações fazem os testes passarem de fato e gera conjuntos de dados SFT de múltiplas interações no formato ShareGPT. Diferente da destilação de agentes, que simula chamadas de ferramentas, cada etapa neste pipeline de dados inclui execução real e verificações antifraude. Esses conjuntos de dados são ideais para treinar modelos menores para localizar problemas, modificar código e verificar resultados em repositórios de código do mundo real.

O pipeline do modelo Coding Agent Distillation inclui as seguintes etapas:

Procedimento

1. Faça login no PAI console. No painel de navegação à esquerda, escolha Model Application > Model Distillation (ModelDistill).

2. Na página, clique em Create task para abrir a aba Distillation Template ou abra a aba Distillation Template diretamente.

3. Selecione Coding Agent Distillation e clique em Use Template para abrir a página Create Distillation Task e configure os seguintes parâmetros principais e mantenha os valores padrão para os demais.

4. Em Basic Configuration, defina os seguintes parâmetros:

   • Task name: O sistema preenche este campo automaticamente.

   • Output Path: Especifique um caminho do OSS ao qual você tenha permissão de acesso, como oss://mybucket.oss-cn-hangzhou-internal.aliyuncs.com/coding-agent-distill/.

     Nota

     Sempre crie um diretório de saída separado para cada tarefa de destilação para evitar a sobrescrita de arquivos. O bucket do OSS deve estar na mesma região do service do PAI.

5. Em seguida, clique em Next para abrir Build distillation data:

   • Teacher model: Defina a source como Token Service e selecione um modelo professor (como qwen3.8-max). Não selecione um modelo juiz; o sistema reutiliza o modelo professor como modelo juiz.

   • Dataset: Selecione um diretório do OSS ao qual você tenha permissão de acesso. Selecione o diretório inteiro, e não apenas um arquivo JSONL. Baixe e use a amostra diretamente.

   • Distillation Configuration: Use a configuração padrão fornecida e modifique conforme necessário. Preste atenção aos seguintes parâmetros:

     • coding_agent.harness.max_turns: O número máximo de interações para uma única seed. O valor padrão é 150. Configure este parâmetro junto com o timeout, pois o agent modifica o código e executa testes no sandbox a cada interação.

     • coding_agent.sandbox.endpoint: O endpoint do Instant Service. Substitua o placeholder ${EAS_SANDBOX_ENDPOINT} pelo endpoint real.

     • coding_agent.sandbox.api_key: O token da API do Instant Service. Substitua o placeholder ${EAS_SANDBOX_API_KEY} pelo token real.

       Nota

       Instant Service: O Coding Agent Distillation exige o Instant Service para fornecer o ambiente de execução do sandbox. No painel de navegação à esquerda do PAI console, escolha Elastic Algorithm Service (EAS) e clique em Instant Service. Depois de criar o Instant Service, use um modelo público ou personalizado. No canto superior direito da página de detalhes do modelo, clique em SDK Access para obter o endpoint e o token da API. Em seguida, substitua ${EAS_SANDBOX_ENDPOINT} e ${EAS_SANDBOX_API_KEY} na configuração de destilação anterior por esses valores. Para mais detalhes, consulte Instant Service - Getting Started.

   • Compute Resource: Defina o Resource Type como General Computing e a Source como Public Resources. Em Job Resource, selecione um Instance Type adequado, como ecs.c6.large.

6. Por fim, clique em Create. Em seguida, no aviso de faturamento exibido, clique em OK. A página redireciona automaticamente para a configuração básica nos detalhes da tarefa, onde você acompanha o status da tarefa.

Detalhes da configuração

As seções a seguir descrevem os principais parâmetros de configuração do modelo Coding Agent Distillation. Como a configuração básica e a de recursos são iguais às da destilação geral, esta seção lista apenas os parâmetros específicos deste modelo.