O OSS accelerator armazena em cache objetos acessados com frequência em SSDs NVMe de alto desempenho na mesma zona de disponibilidade dos seus recursos de computação. Isso proporciona latência no nível de milissegundos e alto QPS para cargas de trabalho de IA, data warehousing e análise de big data.
Benefícios
-
Baixa latência
Os SSDs NVMe proporcionam latência de download no nível de milissegundos, melhorando o desempenho de consultas de data warehouse e downloads para inferência de modelos.
-
Alto IOPS
O acelerador oferece alto throughput para pequenos volumes de dados e atende a demandas de leitura em rajada para dados quentes.
-
Throughput aumentado
A largura de banda escala linearmente com a capacidade de cache, fornecendo throughput em rajada de até centenas de Gbit/s.
-
Dimensionamento automático
Dimensione a capacidade de cache de 50 GB a 100 TB sem interrupção do serviço para atender a demandas periódicas de carga de trabalho. O acelerador aproveita o armazenamento massivo do OSS e pode armazenar em cache várias tabelas ou partições de data warehouse diretamente.
-
Armazenamento e computação desacoplados
O acelerador opera independentemente dos servidores de computação, permitindo ajustar a capacidade de cache e o desempenho online sem interromper o serviço.
-
Consistência de dados
Ao contrário de caches convencionais, o OSS accelerator garante a consistência dos dados. Quando os objetos no OSS são atualizados, o acelerador identifica e armazena automaticamente as versões mais recentes em cache, garantindo que os mecanismos de computação sempre leiam dados atuais.
-
Múltiplas políticas de aquecimento
O acelerador detecta automaticamente objetos atualizados e oferece as seguintes políticas de aquecimento:
Aquecimento durante leitura: Em caso de falha no cache, o acelerador recupera os dados do bucket de origem e os armazena em cache automaticamente.
Aquecimento síncrono: Os dados são armazenados em cache no acelerador no momento da gravação.
-
Aquecimento assíncrono: Armazene dados em lote do OSS no acelerador conforme um cronograma configurado.
NotaO aquecimento durante leitura está sempre ativado e não pode ser desativado.
Ative manualmente o aquecimento síncrono e o assíncrono. Ambos podem ser ativados simultaneamente.
Como funciona
Cada acelerador possui um endpoint acelerado interno dedicado à sua região. O acesso é restrito à rede interna. Por exemplo, o endpoint para a região China (Pequim) é http://cn-beijing-internal.oss-data-acc.aliyuncs.com. Clientes na mesma VPC podem usar esse endpoint para acessar recursos em cache.
-
Solicitações de gravação
Aquecimento durante leitura: As solicitações de gravação enviadas ao endpoint acelerado são encaminhadas aos buckets do OSS, de forma semelhante ao uso de endpoints padrão do OSS.
Aquecimento síncrono: As solicitações de gravação são encaminhadas tanto para os buckets do OSS quanto para o acelerador.
Aquecimento assíncrono: Os dados quentes são pré-carregados no acelerador antes da chegada das solicitações de leitura.
Aquecimento síncrono + aquecimento assíncrono: As gravações são encaminhadas tanto para o OSS quanto para o acelerador, e os dados quentes também são pré-carregados antes das leituras.
-
Solicitações de leitura
NotaAs solicitações de leitura seguem o mesmo caminho, independentemente da política de aquecimento.
As solicitações de leitura enviadas ao endpoint acelerado são encaminhadas ao acelerador.
-
Ao receber as solicitações de leitura, o acelerador busca os objetos solicitados no cache.
Acerto no cache: Os objetos são retornados diretamente ao cliente.
Falha no cache: O acelerador recupera os objetos do bucket do OSS mapeado, armazena-os em cache e os retorna ao cliente.
Cache cheio: O acelerador remove objetos acessados com menos frequência para priorizar dados quentes.
Cenários
O OSS accelerator é adequado para cenários que exigem alta largura de banda e leituras repetidas de dados:
Compartilhamento de dados de baixa latência
-
Contexto
Um cliente escaneia produtos em uma máquina de venda automática, tira uma foto e faz o upload por meio de um aplicativo móvel. O backend armazena a imagem e, em seguida, subsistemas realizam moderação de conteúdo e reconhecimento de código de barras. Os resultados devem ser retornados em milissegundos para a dedução da taxa.
-
Solução
Utilize o aquecimento síncrono para reduzir a latência de carregamento de imagens e encurtar a cadeia de transações em cargas de trabalho sensíveis à latência e com leituras repetidas.
Inferência de modelo
-
Contexto
Servidores de inferência de IA buscam e carregam objetos de modelo para tarefas de AIGC. Durante a depuração, os servidores alternam frequentemente entre modelos. À medida que o tamanho dos modelos aumenta, os tempos de busca e carregamento crescem significativamente.
-
Solução
Use o aquecimento assíncrono quando for possível predeterminar os objetos de modelo quentes, ou o aquecimento durante leitura quando não for. Com o aquecimento assíncrono, utilize o SDK do acelerador para pré-carregar modelos conhecidos. O acelerador armazena automaticamente os modelos em mídia NVMe para leituras subsequentes mais rápidas. Dimensione a capacidade de cache a qualquer momento. Se o seu servidor de inferência acessar o OSS por meio de um diretório local, implante o ossfs.
Análise de big data
-
Contexto
Os dados comerciais são particionados por dia e armazenados no OSS. Analistas usam mecanismos como Hive ou Spark para consultas ad-hoc sem saber o intervalo exato de dados antecipadamente e precisam de um retorno de consulta mais rápido.
-
Solução
Adote o aquecimento durante leitura para análises offline com intervalos de consulta incertos. Assim que os dados do Analista A forem armazenados em cache, as consultas sobrepostas do Analista B serão aceleradas automaticamente.
Aceleração multinível
-
Contexto
O cache no lado do cliente e a aceleração no lado do servidor funcionam juntos sem conflitos para proporcionar aceleração multinível.
-
Solução
Implante o Alluxio junto aos clusters de computação como um cache no lado do cliente. Em caso de falha no cache do Alluxio, as leituras passam para o OSS accelerator (aquecimento durante leitura). O Alluxio remove dados com base no TTL devido à capacidade limitada do host cliente. Como o OSS accelerator retém dados (até centenas de TB) além do TTL do Alluxio, as falhas subsequentes do Alluxio carregam diretamente do acelerador, alcançando uma aceleração de dois níveis.
Métricas
|
Métrica |
Descrição |
|
Capacidade de cache |
Se o seu negócio exigir uma capacidade de cache maior, abra um ticket. |
|
Throughput do acelerador |
O throughput escala com a capacidade de cache: até 2,4 Gbit/s por TB de cache. Esse throughput é independente dos limites de largura de banda padrão do OSS. Para obter mais informações sobre os limites de largura de banda padrão do OSS, consulte Limites e métricas de desempenho. Por exemplo, se o OSS fornecer 100 Gbit/s de largura de banda padrão na região China (Shenzhen) e você criar um acelerador de 10 TB, ganhará 24 Gbit/s adicionais de throughput de baixa latência via endpoint acelerado. Use o endpoint interno padrão do OSS para computação offline em lote (100 Gbit/s de leituras de blocos simultâneas) e o endpoint acelerado para consultas de dados quentes (24 Gbit/s adicionais de acesso de baixa latência a partir de SSDs NVMe). |
|
Largura de banda de leitura de pico |
Fórmula: MAX[600.300 × Capacidade de cache (TB)] MB/s
Exemplo: Um acelerador de 2 TB (2.048 GB) fornece 600 MB/s de largura de banda de leitura. |
|
Largura de banda máxima de leitura |
40 GB/s Se o seu negócio exigir uma largura de banda de leitura maior, abra um ticket. |
|
Latência mínima para leitura de 128 KB de dados em uma única solicitação |
<10 ms |
|
Intervalo de aumento ou redução de escala |
Uma vez por hora |
|
Método de aumento ou redução de escala |
Aumente ou reduza a escala manualmente no console do OSS |
|
Política de exclusão de cache |
Utiliza o algoritmo Least Recently Used (LRU): os dados acessados com frequência são retidos e os dados obsoletos são removidos primeiro para maximizar a utilização do cache. |
Regras de faturamento
O OSS accelerator está em visualização pública. Durante esse período, até 100 GB de capacidade de cache são gratuitos. Após o término da visualização pública, a cobrança será baseada na capacidade real de cache utilizada, seguindo o modelo de pagamento conforme o uso.
Ao usar o endpoint acelerado para ler ou gravar dados, aplicam-se taxas de chamada de API do OSS, mesmo que nenhuma solicitação de busca na origem seja enviada.
Para obter mais informações sobre como consultar dados de faturamento do OSS gerados por hora, consulte Consultar dados horários do OSS e Consulta de faturas.
Próximas etapas
Para obter mais informações sobre como criar um acelerador e modificar sua capacidade de cache, consulte Criar, modificar e excluir um OSS accelerator.
Para saber mais sobre como configurar e usar o recurso OSS accelerator juntamente com ferramentas e SDKs do OSS, consulte Usar o OSS accelerator.
Para detalhes sobre as diferenças de desempenho ao acessar recursos usando um endpoint interno do OSS e um acelerador em cenários comerciais específicos, consulte Métricas de desempenho.