Platform For AI:Visão geral do Instant Service

O que é o PAI-Instant Service

Operações como execução de código, leitura e gravação de arquivos e controle de navegadores são instruções inerentemente não confiáveis. Essas operações podem comprometer o sistema host, causar vazamento de dados ou esgotamento de recursos devido a alucinações do modelo ou injeção de prompts. Os contêineres tradicionais compartilham o kernel do host, o que amplia a superfície de ataque e não atende aos requisitos das aplicações quanto a persistência de estado, inicialização e parada em milissegundos e gerenciamento de ciclo de vida de granularidade fina.

O PAI-Instant Service utiliza a virtualização leve MicroVM em nível de hardware para construir um ambiente de execução estritamente isolado com três camadas de defesa: isolamento do sistema de arquivos, controle de saída de rede e limites de uso de recursos.

Principais recursos

• Isolamento de segurança em nível de hardware MicroVM: Cada instância é executada em uma máquina virtual leve com seu próprio kernel de sistema operacional convidado. O isolamento é equivalente ao de uma máquina virtual tradicional, o que elimina o risco de escape causado pelo kernel compartilhado do contêiner. As instâncias mantêm esse limite de segurança no nível de VM e ainda oferecem inicializações a frio em milissegundos e alta utilização de recursos, garantindo segurança e desempenho simultaneamente.

• Workbench visual de nível corporativo: Um console de gerenciamento visual completo oferece suporte ao gerenciamento de recursos em três níveis (instant service, modelo e instância), Web Terminal, área de trabalho gráfica VNC, gerenciamento de arquivos online, depuração de endpoints HTTP e auditoria de logs de requisições. Não é necessário criar ferramentas de operações próprias. Os desenvolvedores executam o fluxo de trabalho de ponta a ponta, da criação à depuração, no console.

• Compatibilidade com o SDK E2B para migração sem custo: O PAI-Instant Service suporta nativamente a especificação de interface do SDK open source E2B. Migre as aplicações existentes atualizando duas variáveis de ambiente: E2B_DOMAIN e E2B_API_KEY. Nenhuma alteração no código da aplicação é necessária. Modelos oficiais para os principais cenários, como Code Interpreter, Browser Use e Desktop GUI, estão disponíveis prontos para uso.

Cenários de aplicação

O Instant Service é adequado para cenários como treinamento e avaliação de RL, caracterizados por concorrência massiva (centenas a milhares de instâncias executadas simultaneamente), ciclos de vida curtos e bifurcação rápida de ambientes.

• Treinamento paralelo em larga escala: Crie instâncias em lote a partir de modelos. Cada instância executa independentemente um episódio de treinamento e coleta dados de experiência. As instâncias são destruídas após a conclusão.

• Avaliação e benchmarking de modelos: Crie uma instância isolada para cada versão do modelo para executar tarefas de avaliação padronizadas, garantindo resultados justos e reproduzíveis.

Hierarquia de recursos

O PAI-Instant Service utiliza uma estrutura de recursos em três níveis: Instant Service → Modelo → Instância. Essa estrutura separa as operações mais pesadas, como criação de serviço e associação de faturamento, das operações leves, como o uso do serviço. Após o administrador concluir a configuração única do serviço, os usuários finais precisam apenas de um token para usar as instâncias sob demanda.

Regiões suportadas

Regiões disponíveis atualmente: China East 2 (Shanghai), China North 6 (Ulanqab) e China Northwest 2 (Zhongwei).

Faturamento

Próximos passos

• Crie sua primeira instância e conclua a validação: Início rápido

• Crie um instant service e modelo: Gerenciar instant service e modelos

• Crie e utilize instâncias: Gerenciar instâncias