Os services de modelos grandes do DataWorks oferecem capacidades integradas para implantação eficiente, comunicação segura e invocação simplificada. Implante modelos facilmente em grupos de recursos serverless do DataWorks e chame-os diretamente nas tarefas de desenvolvimento de dados. Todo o tráfego trafega por um canal de rede privada estabelecido pelo PrivateLink, garantindo que os dados nunca saiam da rede privada e protegendo efetivamente a segurança das informações.
Modelos suportados
Categoria | Modelo | Descrição |
Modelo de linguagem grande | Qwen3-32B | O Qwen3 é a geração mais recente de modelos de linguagem grande da série Qwen e oferece um conjunto completo de modelos densos e Mixture-of-Experts (MoE). Com base em treinamento extensivo, o Qwen3 alcança capacidades inovadoras em raciocínio, seguimento de instruções, funções de agente e suporte multilíngue. Para obter mais informações sobre o modelo, consulte Recommended models. Importante
|
Qwen3-14B | ||
Qwen3-8B | ||
Qwen3-4B | ||
Qwen3-1,7B | ||
Qwen3-0,6B | ||
Qwen3-Embedding-8B | ||
Qwen3-Embedding-4B | ||
Qwen3-Embedding-0,6B | ||
DeepSeek-R1-0528-Qwen3-8B | O DeepSeek utiliza amplamente aprendizado por reforço durante o treinamento, melhorando significativamente as capacidades de raciocínio do modelo com uma quantidade mínima de dados rotulados. Para obter mais informações sobre o modelo, consulte Recommended models. | |
DeepSeek-R1-Distill-Qwen-1,5B | ||
DeepSeek-R1-Distill-Qwen-7B | ||
DeepSeek-R1-Distill-Qwen-14B | ||
Modelo de embedding | BGE-M3 | O BGE-M3 é um modelo de embedding de uso geral compatível com recuperação densa, multivetorial e esparsa. Ele processa entradas que variam de textos curtos até 8.192 tokens e aceita mais de 100 idiomas naturais. |
BGE-Large-zh-v1.5 | O BGE Embedding é um modelo de embedding de uso geral. Ele utiliza o RetroMAE para pré-treinamento do modelo, seguido de aprendizado contrastivo em dados pareados em larga escala. |
Recursos do service de modelos grandes
Implantação rápida: Processo de lançamento simplificado
Um guia de interface visual permite implantar modelos pré-treinados com operações de baixo código, sem necessidade de escrever código de infraestrutura. Com apenas algumas etapas simples de configuração, crie e publique services de modelo, reduzindo a barreira para implantação.
Comunicação segura por rede privada: Garantia de isolamento do service
Os services de modelos grandes do DataWorks são implantados em modo totalmente gerenciado em grupos de recursos serverless do DataWorks. A comunicação por rede privada entre VPCs ocorre com base em PrivateLink e Private Hosted Zone para garantir o isolamento de rede. Acesse o modelo totalmente gerenciado pela rede privada da sua vpc para assegurar a segurança dos services de modelo.
Comunicação com isolamento de rede: O PrivateLink estabelece um canal de conexão dedicado entre sua vpc e a vpc do grupo de recursos do DataWorks. Isso impede a exposição do tráfego à rede pública e assegura o isolamento seguro.
Resolução de nome de domínio privado: A Private Hosted Zone implanta um service de resolução DNS privado e configura automaticamente regras de encaminhamento de nomes de domínio privados. Assim, você acessa os services de modelo diretamente por nomes de domínio dentro da sua vpc.
Conexão automatizada: Invocação transparente
Ao implantar um service de modelo em um grupo de recursos serverless do DataWorks ou configure uma vpc para ele, o sistema executa automaticamente as seguintes operações:
Estabelece conexões entre VPCs. Na sua vpc (a vpc sob sua conta conectada ao grupo de recursos do DataWorks), o sistema cria automaticamente um endpoint do PrivateLink e estabelece um canal de comunicação criptografado com o service do PrivateLink na vpc do grupo de recursos do DataWorks.
Configura a resolução de nomes de domínio. O sistema defina automaticamente as regras de resolução na vpc especificada na configuração do service de modelo. Dessa forma, o tráfego de solicitação de nomes de domínio dentro da vpc é encaminhado automaticamente para o service de modelo do DataWorks.
Processo de invocação do modelo
Ao iniciar uma chamada de service de modelo por meio de um nome de domínio:
Resolução da solicitação: A Private Hosted Zone resolve as solicitações DNS dentro da sua vpc para localizar o endereço IP privado da vpc do grupo de recursos do DataWorks.
Encaminhamento de tráfego: As solicitações são transmitidas com segurança da sua vpc para a vpc do grupo de recursos do DataWorks pelo canal dedicado estabelecido pelo PrivateLink.
Resposta do service: As solicitações chegam à instância do modelo na vpc do grupo de recursos do DataWorks, onde a computação de inferência é concluída e os resultados retornam.
Todo o processo de invocação ocorre em um ambiente de rede privada, sem expor endereços IP públicos, garantindo assim a segurança e a controlabilidade dos services de modelo.
Implantação e uso do modelo
No DataWorks, selecione e implante modelos para o desenvolvimento de tarefas.
Modelos de terceiros
Além de implantar modelos pré-treinados, os services de modelos grandes do DataWorks também suportam o registro de services de modelo de terceiros. Conecte APIs de provedores externos de modelos (como o Bailian) ao DataWorks. Após o registro e ativação, chame modelos de terceiros de maneira unificada nas tarefas do DataWorks.
Na página Model Service, alterne para a aba Third-party models. Você pode:
Registrar um service de modelo: Forneça informações como provedor do modelo, nome do modelo, nome do service e chave de API para concluir o registro.
Gerencie services de modelo: Ative, desative, modifique ou exclua services de modelo de terceiros registrados.
Os services de modelo de terceiros não consomem recursos dos grupos de recursos serverless do DataWorks. Os custos reais são cobrados pelo provedor de modelo correspondente.