Support:SOW do Serviço Técnico Internacional de LLM

1,1 Visão Geral do Serviço

Serviço de Consultoria em LLM:

Consultoria baseada em cenários para necessidades de computação inteligente, oferecendo orientação técnica com base nos produtos da série Tongyi LLM, incluindo otimização de prompts sob demanda, suporte à avaliação de modelos e outros serviços técnicos.

Serviço Técnico de Desenvolvimento de AI Agent:

Construção de AI agents baseados nos cenários de negócios do cliente, abrangendo análise de cenários, design de arquitetura de agentes, implementação de pipelines de engenharia, além de monitoramento e otimização de desempenho para entrega ponta a ponta.

Serviço de Ajuste Fino e Treinamento de Modelos:

Adaptação de conhecimento de domínio e personalização de modelos para clientes empresariais, com serviços técnicos ponta a ponta, desde o preparo de dados e a seleção de modelos até o treinamento e ajuste. Suporta métodos como SFT, LoRA, DPO e CPT, entre outros, e inclui serviços complementares: limpeza e anotação de dados de treinamento, monitoramento do processo, verificação de desempenho e implantação do modelo.

2,1 Escopo do Serviço de Consultoria em LLM

O escopo do serviço inclui:

1. Pesquisa de requisitos de cenário: Entrevistas para confirmar pontos críticos do negócio e requisitos de aplicação de LLM; levantamento de bases de conhecimento existentes, ativos de dados, interfaces de API e outros recursos.

2. Levantamento do estado técnico: Análise de recursos de computação, ambiente de rede e arquitetura técnica; definição das capacidades de integração e especificações de interface de fontes de conhecimento, bancos de dados e sistemas de aplicativos.

3. Design de solução de orquestração de agentes: Definição de pipelines de agentes, nós, seleção de modelos, métodos e padrões de avaliação.

4. Plano de otimização de engenharia de contexto: Serviços avançados de otimização de prompts orientados por cenário.

5. Suporte ao gerenciamento de processos do projeto e elaboração do plano de consultoria.

O escopo do serviço não inclui:

1. Desenvolvimento de engenharia relacionado a AI agents.

2. Desenvolvimento de código e modificações funcionais em sistemas do cliente.

3. Serviços diários de O&M para softwares de terceiros, incluindo instalação, testes, diagnóstico de falhas e otimização.

4. Transformação de arquitetura de sistemas de TI ou consultoria geral de transformação digital não relacionada a LLMs.

2,2 Escopo do Serviço de Desenvolvimento de AI Agent

O escopo do serviço inclui:

1. Análise e pesquisa técnica de requisitos de cenários de aplicação relacionados a LLM.

2. Design de arquitetura de agentes e implementação de orquestração.

3. Design e implementação de engenharia de contexto.

4. Avaliação e otimização de desempenho de agentes (excluindo ajuste fino e treinamento de modelos).

5. Integração de ferramentas ou Skills.

6. Suporte ao gerenciamento de processos do projeto e elaboração do plano de implementação.

7. Os cenários atuais de desenvolvimento de AI agents incluem:

O escopo do serviço não inclui:

1. Desenvolvimento de código e modificações funcionais em sistemas do cliente.

2. Desenvolvimento de aplicações frontend e modificações funcionais de AI agents.

3. Serviços diários de O&M para softwares de terceiros, incluindo instalação, testes, diagnóstico de falhas e otimização.

4. Transformação de arquitetura de sistemas de TI ou consultoria geral de transformação digital não relacionada a LLMs.

2,3 Serviço de Ajuste Fino e Treinamento de Modelos

O escopo do serviço inclui:

1. Pesquisa de requisitos de cenário para ajuste fino/treinamento.

2. Design de solução de ajuste fino/treinamento.

3. Preparo de conjuntos de dados (incluindo dados de treinamento e avaliação).

4. Avaliação e otimização de desempenho.

5. Suporte à implantação e lançamento do modelo.

6. Suporte ao gerenciamento de processos do projeto e elaboração do plano de implementação.

O escopo do serviço não inclui:

1. Desenvolvimento de código e modificações funcionais em sistemas do cliente.

2. Instalação, testes, diagnóstico de falhas e otimização de softwares proprietários de terceiros.

3. Frameworks de treinamento/inferência fora dos produtos Alibaba Cloud e quaisquer modificações no nível de framework (incluindo frameworks da Alibaba Cloud e de terceiros).

3,1 Pré-requisitos do Serviço de Consultoria em IA

1. Prazo de solicitação: Envie a solicitação de serviço com pelo menos 15 dias corridos de antecedência.

2. Forneça descrição do cenário de negócios, documentação da arquitetura do sistema existente e inventário de bases de conhecimento/ativos de dados.

3. Adquira e utilize produtos da série Tongyi da Alibaba Cloud (no mínimo, o modelo Tongyi).

4. Ambiente e acesso: Forneça acesso a ambiente de não produção, canais remotos e recursos de dados/código necessários.

5. Cooperação no projeto: Designe um gerente de projeto ou gerente técnico com autoridade decisória como contato principal e confirme por escrito o plano de implementação dentro de 5 dias úteis.

3,2 Pré-requisitos do Serviço de Desenvolvimento de AI Agent

1. Prazo de solicitação: Envie a solicitação de serviço com pelo menos 15 dias corridos de antecedência.

2. Ambiente e acesso: Forneça acesso a ambiente de não produção, canais remotos e recursos de dados/código necessários.

3. Adquira recursos de computação da Alibaba Cloud ou utilize serviços da plataforma MaaS da Alibaba Cloud.

4. Cooperação no projeto: Designe um gerente de projeto ou gerente técnico com autoridade decisória como contato principal e confirme por escrito o plano de implementação dentro de 5 dias úteis.

3,3 Pré-requisitos do Serviço de Treinamento de Modelos

1. Prazo de solicitação: Envie a solicitação de serviço com pelo menos 15 dias corridos de antecedência. Para cenários envolvendo migração de dados em grande escala ou recursos de computação, recomenda-se aviso prévio de 30 dias.

2. Forneça ambiente de não produção necessário, amostras de dados, documentação de interfaces de API e permissões de acesso remoto.

3. Disponibilize conjuntos de dados de treinamento, recursos de computação, objetivos claros da tarefa e critérios de avaliação.

4. Cooperação no projeto: Designe um gerente de projeto ou gerente técnico com autoridade decisória como contato principal e confirme por escrito o plano de implementação dentro de 5 dias úteis.

5. Adquira recursos de computação da Alibaba Cloud ou utilize serviços das plataformas MaaS/Computação Inteligente da Alibaba Cloud.

6. A Alibaba Cloud não fornece design de funções de recompensa para aprendizado por reforço; forneça a função de recompensa.

4,1 Limites de Responsabilidade

4,2 SLA

A Alibaba Cloud fornecerá um gerente técnico dedicado ao serviço de LLM.

A Alibaba Cloud fornecerá o "Plano de Trabalho do Serviço Técnico de LLM" e o "Relatório de Aceitação do Serviço Técnico de LLM".

5,1 Itens do Serviço de Consultoria em IA

Cada pacote oferece serviços de pesquisa e consultoria que incluem:

1. Pesquisa de cenários de requisitos: Serviços de pesquisa e análise de cenários de LLM, incluindo:

1. Entrevistas para confirmar pontos críticos do negócio do cliente e requisitos de aplicação de LLM.

2. Levantamento de bases de conhecimento existentes, ativos de dados, interfaces de API e outros recursos disponíveis.

3. Limite de 3 sessões de reuniões de pesquisa por cenário de negócios em cada pacote.

1. Levantamento do estado técnico: Serviços de pesquisa e análise do estado técnico relacionado a LLM, incluindo:

1. Análise dos recursos de computação atuais do cliente, ambiente de rede, arquitetura técnica e outras condições existentes.

2. Definição das capacidades de integração e especificações de interface de fontes de conhecimento empresariais, bancos de dados e sistemas de aplicativos.

3. Limite de avaliação de integração técnica para 5 sistemas principais em cada pacote.

1. Design de pipeline técnico de agentes, incluindo:

1. Entrega de soluções técnicas relacionadas a agentes, incluindo pipelines de orquestração, design de nós, seleção de modelos, métodos e padrões de avaliação.

2. Design de pipelines de engenharia de agentes, desenvolvimento de soluções de fluxo de trabalho multi-nó ou multi-agente para cenários complexos e orientação de consultoria técnica para desenvolvimento de agentes.

3. Inclusão de 1 solução de design de pipeline com até 5 nós em cada pacote.

1. Serviços de otimização de prompts orientados por cenário, incluindo:

1. Reescrita de compatibilidade de prompts para o modelo Tongyi Qwen.

2. Avaliação de desempenho de prompts e ajuste de PE.

3. Limite de 3 rodadas de otimização de prompts, com até 5 modelos e 1.000 registros de dados de avaliação por rodada em cada pacote.

1. Gerenciamento de projetos durante todo o processo de execução.

5,2 Itens do Serviço de Desenvolvimento de AI Agent

Os serviços técnicos de desenvolvimento de AI agents incluem:

1. Pesquisa de cenários de requisitos: Serviços de pesquisa e análise de cenários de LLM, incluindo:

1. Entrevistas para confirmar pontos críticos do negócio do cliente e requisitos de aplicação de LLM.

2. Levantamento de bases de conhecimento existentes, ativos de dados, interfaces de API e outros recursos disponíveis.

3. Limite de 3 sessões de reuniões de pesquisa por cenário de negócios em cada pacote.

4. Levantamento do estado técnico: Serviços de pesquisa e análise do estado técnico relacionado a LLM, incluindo:

5. Análise dos recursos de computação atuais do cliente, ambiente de rede, arquitetura técnica e outras condições existentes.

6. Definição das capacidades de integração e especificações de interface de fontes de conhecimento empresariais, bancos de dados e sistemas de aplicativos.

7. Limite de avaliação de integração técnica para 5 sistemas principais em cada pacote.

1. Design e implementação de pipeline técnico de agentes, incluindo:

1. Entrega de soluções técnicas relacionadas a agentes, incluindo pipelines de orquestração, design de nós, seleção de modelos, métodos e padrões de avaliação.

2. Design de ferramentas MCP ou Skills necessárias para o pipeline de engenharia de agentes e definição dos padrões de entrada/saída.

3. Limite de 1 pipeline de orquestração, 5 nós de orquestração e 3 configurações de ferramentas/Skills MCP em cada pacote.

4) Otimização de engenharia de contexto, incluindo:

1. Design de prompts para nós na solução de orquestração e otimização em múltiplas rodadas.

2. Integração e implementação do pipeline de engenharia com base nos produtos MaaS da Alibaba Cloud, combinados com a solução de orquestração de agentes e engenharia de contexto, incluindo integração com ferramentas ou Skills existentes do cliente.

3. Limite de 5 rodadas de otimização de prompts, com verificação de otimização para até 5 modelos em cada pacote.

5) Verificação de avaliação de agentes e otimização de desempenho, incluindo:

a) Verificação de desempenho de agentes, entrega de soluções de implantação de alta disponibilidade e apoio aos clientes na conclusão dos trabalhos de implantação conforme o plano.

b) Serviços de coleta e otimização de casos negativos e ajustes de desempenho com base na arquitetura de agentes sem ajuste fino de modelos. Os resultados finais entregues estarão sujeitos aos padrões confirmados conjuntamente pela Alibaba Cloud e pelo cliente.

c) Limite de 2.000 registros de dados de avaliação (coleta e otimização de casos negativos em até 5 rodadas), com verificação de avaliação e otimização para até 5 modelos em cada pacote.

1. Gerenciamento de projetos durante todo o processo de execução.

5,3 Itens do Serviço de Ajuste Fino e Treinamento de Modelos

Os serviços de ajuste fino e treinamento de modelos incluem:

1. Pesquisa de cenários de requisitos: Serviços de pesquisa e análise de cenários de ajuste fino ou treinamento de LLM, incluindo: a) Entrevistas para confirmar pontos críticos do negócio do cliente e requisitos de ajuste fino/treinamento de LLM. b) Levantamento de dados de treinamento existentes, recursos de anotação, orçamento de computação e outros recursos disponíveis. c) Limite de 3 sessões de reuniões de pesquisa por cenário de ajuste fino/treinamento em cada pacote.

2. Coleta de dados e avaliação de recursos de computação: Análise de qualidade de dados do lado do cliente e avaliação de recursos de computação, incluindo: a) Coleta e análise da qualidade e formato atuais dos dados do cliente, fornecendo especificações de formato e recomendações de inspeção de qualidade de amostras. (Conjuntos de dados a serem fornecidos pelo cliente) b) Avaliação das especificações e quantidade de recursos usados para ajuste fino/treinamento.

c) Pré-processamento de dados nos dados coletados do cliente conforme necessário, incluindo deduplicação, filtragem e aumento de dados.

d) Limite de avaliação de integração técnica para 5 fontes de dados principais, com volume de dados fornecido pelo cliente não excedendo 50.000 amostras em cada pacote.

1. Design de solução de ajuste fino/treinamento e execução de tarefas de treinamento, incluindo: a) Entrega de soluções técnicas relacionadas a ajuste fino/treinamento, incluindo seleção de modelo base, estratégias (por exemplo, LoRA/SFT/RLHF), design de hiperparâmetros e critérios de avaliação. b) Configuração de scripts de treinamento e execução de tarefas (com base nos recursos de computação fornecidos pelo cliente). c) Limite de 1 tarefa de treinamento + 1 versão de modelo + 1 algoritmo, com até 3 iterações de treinamento de modelo em cada pacote.

2. Verificação de avaliação de modelos e otimização de desempenho, incluindo: a) Design de métricas principais com base nos objetivos de avaliação do cliente, como precisão, relevância, conformidade e integridade da resposta.

b) Execução da avaliação e implantação do modelo e geração do relatório de avaliação. (Conjunto de dados de avaliação a ser fornecido pelo cliente)

c) Serviços de coleta e otimização de casos negativos e ajustes de desempenho com base na arquitetura de ajuste fino/treinamento. Os resultados finais entregues estarão sujeitos aos padrões confirmados conjuntamente pela Alibaba Cloud e pelo cliente.

d) Limite de 50.000 registros de dados de avaliação, 3 iterações de avaliação e verificação de avaliação e otimização para até 3 versões de modelos em cada pacote.

1. Gerenciamento de projetos durante todo o processo de execução.

6,1 Serviço de Consultoria em LLM

Prazo de solicitação: Envie a solicitação pelo menos 15 dias corridos antes da data de início do serviço de consultoria em LLM.

6,2 Serviço de Desenvolvimento de AI Agent

Prazo de solicitação: Envie a solicitação pelo menos 15 dias corridos antes da data de início do serviço de desenvolvimento de AI agent.

6,3 Serviço de Ajuste Fino e Treinamento de Modelos

Prazo de solicitação: Envie a solicitação pelo menos 15 dias corridos antes da data de início do serviço de ajuste fino e treinamento de modelos.