Create a GPU function with container images - Function Compute: Central de Documentação do Alibaba Cloud

Criar uma função

Faça logon no console do Function Compute. No painel de navegação à esquerda, escolha Function Management > Function List.
Na barra de menus superior, selecione uma região. Na página Function List, clique em Create Function.
Na caixa de diálogo exibida, selecione GPU Function e clique em Create GPU Function.

Na página Create GPU Function, defina os parâmetros a seguir e clique em Create.

Basic Configurations: Insira um Function Name. O nome deve ser exclusivo na mesma conta e região, além de seguir as convenções de nomenclatura.

Elastic Configurations: Selecione um tipo de instância. Não é possível combinar instâncias provisionadas e sob demanda, e o tipo não pode ser alterado após a criação.

Instâncias sob demanda

Item de configuração	Descrição	Exemplo
Instance Type	Selecione On-demand Instance. As instâncias dimensionam conforme o volume de solicitações e são liberadas quando não há requisições. Faturamento por uso.	On-demand Instance
GPU Card Type	Escolha um tipo de placa GPU. As especificações disponíveis variam conforme o tipo (Instance types and specifications).	Ada series
Specifications	Defina as especificações de GPU Memory, vCPU, Memory e Disk. Faturamento calculado por especificação × duração (Billing overview). Nota Todos os diretórios de disco permitem gravação e compartilham o mesmo espaço. Os dados do disco são perdidos quando a instância é recuperada. Para persistência, monte um sistema de arquivos NAS (Configure a NAS file system) ou um bucket do OSS (Configure Object Storage Service).	GPU Memory: 48 GB vCPU: 8 vCPU Memory: 64 GB Disk: 512 MB (não faturado; o Function Compute oferece cota gratuita de 10 GB de espaço em disco)
Minimum Instances	Para cargas de trabalho sensíveis à latência, selecione Elastic Instance e defina o mínimo como 1 ou mais para reduzir a latência de inicialização a frio. Nota Se nenhuma política elástica estiver configurada ou ativa, a contagem mínima de instâncias assume este valor como padrão. Com múltiplas políticas elásticas ativas, o maior valor de Minimum Number Of Instances torna-se o Minimum Number Of Instances efetivo. How is the current minimum number of instances calculated?	1
Idle Mode	Permite que uma única instância GPU processe várias solicitações simultaneamente. Configure concurrency per instance.

Instâncias provisionadas

Item de configuração	Descrição	Exemplo
Instance Type	Selecione Provisioned Instance. As instâncias provêm de um pool de recursos pré-adquirido. Ideal para custos previsíveis, baixa latência e alta utilização.	Provisioned Instance
Provisioned Resource Pool	Pool de instâncias pré-adquirido para a função. Se a capacidade for insuficiente, clique em Scale-out na coluna Actions. Provisioned resource pools (subscription).	Provisioned Resource Pool: fc-pool-** GPU Card Type**: Ada
Specifications	Defina as especificações de GPU Memory, vCPU, Memory e Disk. Faturamento calculado por especificação × duração (Billing overview). Nota Todos os diretórios de disco permitem gravação e compartilham o mesmo espaço. Os dados do disco são perdidos quando a instância é recuperada. Para persistência, monte um sistema de arquivos NAS (Configure a NAS file system) ou um bucket do OSS (Configure Object Storage Service).	GPU Memory: 48 GB vCPU: 8 vCPU Memory: 64 GB Disk: 512 MB (não faturado; o Function Compute oferece cota gratuita de 10 GB de espaço em disco)
Number Of Provisioned Instances	Aloque instâncias a partir da capacidade disponível do pool.	1
Concurrency Per Instance	Permite que uma única instância GPU processe várias solicitações simultaneamente. Configure concurrency per instance.	20

Concurrency Per Instance: Configure o ambiente de execução e o código da função.

Item de configuração	Descrição	Exemplo
Function Code	Use Sample Image: Selecione uma imagem de exemplo do Function Compute para implantação rápida. Escolha a imagem em Runtime Environment abaixo. Use Image from ACR: Em Container Image, clique em Container Image. No painel, selecione sua instância do Container Registry e o repositório de imagens ACR; em seguida, clique em Select para a imagem desejada. Create a function that uses a custom image.	Select Image From ACR > Custom Image
Use Sample Image	Selecione a imagem de destino.	SpringBoot Web Application Sample Image
Container Image	Comando de inicialização. Assume o Entrypoint/CMD da imagem como padrão se não especificado.	None
Startup Command	Porta de escuta do servidor HTTP.	9000
Listener Port	Defina o tempo limite. Padrão de Execution Timeout: 60 segundos. Máximo: 86.400 segundos.	60

Execution Timeout: Pré-aquece o modelo para eliminar a latência de inicialização a frio na primeira solicitação em cenários de inferência de IA.

Item de configuração	Descrição	Exemplo
Instance Prefetch
Instance Prefetch	Executa um script ou chama uma interface para carregar o modelo após a instância iniciar, mas antes de processar solicitações. Configure the instance lifecycle.	Enabled
Instance Prefetch	Tempo limite para o hook Initializer.	60
Timeout	Dois tipos de hook: Prefetch Program Type e Execute Instruction.	Execute Instruction
Invoke Code	Instrução a ser executada. Suporta shells personalizados: `/bin/bash`, `/bin/sh`, `/bin/csh`, `/bin/zsh`. Certifique-se de que o ambiente de execução suporte o shell selecionado.	Callback method implementation

Permissões, rede e armazenamento: Configure a função de acesso, a rede e os pontos de montagem de armazenamento da função.

Parâmetro	Descrição	Exemplo
Instruction Content	Função RAM que o Function Compute utiliza para gerar credenciais temporárias de acesso a outros serviços da Alibaba Cloud. Para detalhes de configuração, consulte Grant Function Compute permissions to access other Alibaba Cloud services.	`mytestrole`
Function role	Ative para permitir que a função acesse recursos dentro de uma virtual private cloud (VPC). Para detalhes de configuração, consulte Configure a network.	Enabled
Access to VPC	Obrigatório quando Access to VPC está ativado. Selecione uma VPC existente ou crie uma nova.	`fc.auto.create.vpc.1632317****`
VPC	Obrigatório quando Access to VPC está ativado. Selecione um vSwitch existente ou crie um novo.	`fc.auto.create.vswitch.vpc-bp1p8248****`
vSwitch	Obrigatório quando Access to VPC está ativado. Selecione um grupo de segurança existente ou crie um novo.	`fc.auto.create.SecurityGroup.vsw-bp15ftbbbbd****`
Security group	Controla se a função pode acessar a internet através de sua interface de rede (NIC) padrão.	Enabled
Allow default NIC to access internet	Monte um sistema de arquivos NAS para compartilhar dados persistentemente entre funções, como arquivos de modelo usados por várias funções de inferência. Com a configuração automática, o sistema utiliza ou cria um sistema de arquivos NAS de uso geral chamado `Alibaba-Fc-V3-Component-Generated`. Para detalhes, consulte Configure a NAS file system.	Enabled
Mount a NAS file system	Monte um bucket do OSS para armazenar logs, arquivos de negócios e outros dados de forma persistente. Para detalhes, consulte Configure Object Storage Service (OSS).	Enabled

Importante

Ao usar um endereço IP público estático, desative Mount OSS. Caso contrário, o endereço IP público estático não terá efeito. Para detalhes, consulte Configure a static public IP address.

Monitoramento de logs e rastreamento

Parâmetro	Descrição	Exemplo
Allow default NIC to access internet	Persista logs de execução da função no Simple Log Service para depuração, análise de falhas e análise de dados. A Configuração Automática usa ou cria um projeto de log chamado `serverless-<region_id>` (um por região). A Configuração Personalizada permite especificar o Log Service Project e o Logstore. Para detalhes, consulte Configure the logging feature.	Enabled

Mais configurações

Parâmetro	Descrição	Exemplo
Log monitoring	Fuso horário da função. Definir isso adiciona uma variável de ambiente `TZ` com o valor selecionado.	`UTC`
Time zone	Tags para agrupar e gerenciar funções. Cada tag requer uma chave e um valor. Para detalhes, consulte Function tags.	`key : value`
Tag	Grupo de recursos ao qual a função pertence. Para detalhes, consulte Resource groups.	Default Resource Group
Resource group	Pares chave-valor injetados no ambiente de execução da função, permitindo alterar seu comportamento sem modificar o código. Para detalhes, consulte Configure environment variables.	`{"BUCKET_NAME": "MY_BUCKET", "TABLE_NAME": "MY_TABLE"}`

Editar uma função

Após a criação, altere a imagem da função na aba Configuration da página de detalhes da função.

Outras configurações (variáveis de ambiente, armazenamento de logs): Configure a function.

Excluir uma função

Faça logon no console do Function Compute. No painel de navegação à esquerda, escolha Environment variables > Function Management.
Localize a função e clique em Function na coluna Delete Function.
Na caixa de diálogo de confirmação, verifique se a função não possui recursos anexados (como gatilhos ou políticas elásticas de instância mínima) e confirme a exclusão.

Obter o ARN de uma função

Um Aliyun Resource Name (ARN) identifica exclusivamente um recurso da Alibaba Cloud e permite referenciar funções a partir de código ou outros serviços.

Faça logon no console do Function Compute. No painel de navegação à esquerda, escolha Actions > Function Management.
Na barra de menus superior, selecione uma região. Clique na função de destino.
Na página Function, clique em Function Details à direita.

Referências

O Function Compute oferece quatro tipos de função (evento, web, tarefa, GPU). Technology selection guide.
Além do console, o Function Compute fornece APIs e Serverless Devs para gerenciamento de funções. CreateFunction e Quick Start for Serverless Devs.
Se a execução de uma função atingir o tempo limite, consulte What do I do if a "Function timeout" error occurs?.
Funções invocadas com pouca frequência podem apresentar tempos de invocação mais longos (Why do infrequently used functions have long invocation times?). Defina o mínimo de instâncias como 1 ou mais para mitigar esse problema.