Object Storage Service:Otimize a capacidade do acelerador OSS usando mapas de calor de cache

Visão geral do recurso

Para decidir se deve ajustar a capacidade de cache de um acelerador, verifique as seguintes informações em conjunto:

• Taxa de acerto de cache do acelerador OSS (taxa de acerto): indica a eficácia da aceleração do cache atual.

• Utilização de espaço de cache do acelerador OSS (utilização de espaço): porcentagem da capacidade total utilizada ocupada por cada segmento seg no mapa de calor de cache.

• Mapa de calor de cache: exibe a distribuição de tráfego de acesso no intervalo de tempo selecionado e um instantâneo da distribuição de espaço dos dados em cache no momento da consulta. Essas informações explicam os motivos da taxa de acerto de cache estar alta ou baixa.

A taxa de acerto mede a eficácia da aceleração, o mapa de calor de cache explica os padrões de acesso e a utilização de espaço indica a porcentagem de espaço em cache ocupada por cada segmento seg. Juntas, essas métricas ajudam a determinar se a capacidade de cache atual é adequada:

• Quando a taxa de acerto de cache é baixa: se uma pequena parte dos dados em cache recebe a maior parte do tráfego de acesso, a carga de trabalho possui pontos de acesso claros e aumentar a capacidade pode melhorar a taxa de acerto. Caso a distribuição de tráfego de acesso seja semelhante à distribuição de uso de espaço, a carga de trabalho geralmente é dominada por acessos aleatórios. Avalie os benefícios antes de aumentar a capacidade.

• Quando a taxa de acerto de cache permanece alta: verifique a utilização de espaço, além do tráfego de acesso e uso de espaço dos dados acessados menos recentemente, para determinar se a capacidade pode ser reduzida. Use a relação medida entre capacidade de cache e taxa de acerto para avaliar o impacto de uma redução de capacidade.

Para obter informações sobre como acessar e consultar mapas de calor de cache no console, consulte Monitor accelerators.

Descrição do gráfico

Na página de monitoramento de um acelerador OSS, visualize o mapa de calor de cache no cartão Cache Heatmap Monitoring.

O eixo horizontal representa a ordem em que os dados em cache foram acessados pela última vez, e não o tempo cronológico. Da esquerda para a direita, os dados mudam de acessados mais recentemente para acessados menos recentemente. Com base nessa ordem, o sistema divide uniformemente os dados em cache em 10 segmentos, desde seg 0~9 até seg 90~99:

• seg 0~9 fica na extremidade esquerda do gráfico e representa os dados acessados mais recentemente.

• seg 90~99 fica na extremidade direita do gráfico e representa os dados acessados menos recentemente.

Este tópico refere-se à ordem de acesso como idade relativa. A idade relativa muda conforme a atividade de acesso ao cache continua. Ela não corresponde ao tempo de criação do objeto nem à duração em que um objeto permaneceu em cache, e não pode ser convertida em um número fixo de minutos ou horas. Por exemplo, dados em seg 90~99 podem ter ficado sem acesso por apenas alguns minutos em uma instância ocupada com alto QPS, mas por várias horas em uma instância ociosa. A idade relativa indica apenas a ordem de acesso dos dados em cache no gráfico atual. Não compare diretamente o mesmo seg em diferentes períodos de tempo da mesma instância ou entre instâncias diferentes, nem interprete isso como o mesmo período de tempo.

Depois que o cache de um acelerador OSS fica cheio, os dados acessados menos recentemente são removidos primeiro quando novos dados precisam ser armazenados em cache. Portanto, este tópico refere-se a seg 80~99 como zona de preparação para remoção. O banner na parte superior do console abrevia esse termo como eviction zone.

O cartão Cache Heatmap Monitoring contém os seguintes elementos.

Para ajudar a avaliar a frequência de acesso aos dados em cache, este tópico agrupa os 10 segmentos seg nas quatro zonas a seguir.

O console marca a zona de preparação para remoção com um fundo amarelo claro. Zona ativa, zona morna e zona fria são termos usados neste tópico para facilitar a análise. O gráfico do console não exibe rótulos para essas zonas.

Em IOPS extremamente altos, o sistema pode descartar alguns dados de calor de acesso, mas as proporções relativas e a tendência geral entre os segmentos seg permanecem consistentes. Isso não afeta decisões sobre aumento ou redução de capacidade. Para visualizar o tráfego de acesso absoluto, use as métricas de QPS ou largura de banda.

Ajuste a capacidade de cache

Primeiro, use a tabela a seguir para identificar o padrão do gráfico e, em seguida, verifique o exemplo correspondente. Não ajuste a capacidade de cache de um acelerador baseando-se apenas no mapa de calor. Obtenha a taxa de acerto de cache na métrica Hit Rate no monitoramento do acelerador e obtenha as proporções de acesso e espaço da zona de preparação para remoção no mapa de calor de cache.

Após determinar que a capacidade de cache precisa ser ajustada, consulte Crie, modifique e exclua um acelerador OSS para modificar a capacidade de cache do acelerador OSS.

Se a taxa de acerto de cache estiver entre 80% e 95%, não tire conclusões baseando-se apenas nos limiares. Considere sua taxa de acerto de cache alvo, o padrão do gráfico, a utilização de espaço e a largura de banda de origem em conjunto.

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  62%    18%     8%     5%     3%     2%     1%     1%     0%     0%
Space usage ratio     16%    19%    13%    10%     8%     5%     4%     3%     1%     21%

Banner: Eviction zone access ratio: 0%; space ratio: 22%

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  88%    10%     2%     0%     0%     0%     0%     0%     0%     0%
Space usage ratio     58%    34%     8%     0%     0%     0%     0%     0%     0%     0%

Banner: Eviction zone access ratio: 0%; space ratio: 0%

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  30%    20%    14%    11%     8%     6%     5%     3%     2%     1%
Space usage ratio     30%    19%    14%    11%     8%     6%     5%     4%     2%     1%

Recomendações

1. Selecione períodos de tempo representativos. Avalie a capacidade de cache durante os períodos de pico do dia para evitar que dados fora de pico subestimem os requisitos de capacidade. Para cargas de trabalho com picos diários ou semanais claros, como jobs em lote noturnos, observe os períodos de pico e fora de pico separadamente.

2. Observe vários ciclos consecutivos. Uma única amostra ou curto período de observação pode ser afetado por flutuações transitórias. Observe vários ciclos de negócios consecutivos por pelo menos 6 horas e evite ajustes frequentes na capacidade de cache durante o período de observação.

3. Reduza a capacidade em incrementos. Diminua a capacidade de cache em etapas com base na capacidade disponível indicada pela utilização de espaço. Após cada redução, verifique novamente o mapa de calor de cache e a taxa de acerto. Antes de continuar, confirme que a zona ativa (seg 0~9) não está comprimida e que a zona de preparação para remoção (seg 80~99) não está vazia.

4. Calibre os níveis de capacidade elástica separadamente. Para cenários de dimensionamento elástico, como aumentar a capacidade à noite e reduzi-la durante o dia, use mapas de calor dos períodos de pico e fora de pico para calibrar os dois níveis de capacidade de cache separadamente.

5. Verifique as métricas de monitoramento em conjunto. Use o mapa de calor de cache para explicar mudanças na taxa de acerto e utilize a taxa de acerto e a largura de banda de origem para verificar o resultado de um ajuste. Se as métricas levarem a conclusões inconsistentes, verifique primeiro se o padrão de acesso da carga de trabalho mudou recentemente.

Perguntas frequentes

Uma utilização de espaço de cache do acelerador OSS de 100% significa que devo aumentar a capacidade de cache?

Não. Um acelerador OSS usa a política de remoção LRU (menos recentemente usado) e começa a remover dados somente depois que seu cache está cheio. Se o volume total de dados exceder a capacidade de cache, a utilização de espaço atinge 100%. Uma taxa de acerto de cache baixa combinada com uma proporção de espaço próxima de 0% na zona de preparação para remoção indica capacidade de cache insuficiente.

É anormal se a zona de preparação para remoção ocupar espaço, mas não receber tráfego de acesso?

Não. A zona de preparação para remoção armazena dados frios que estão prestes a ser substituídos por novos dados. É normal que esta zona ocupe espaço enquanto recebe quase nenhum tráfego de acesso. Se a proporção de espaço desta zona estiver próxima de 0, os dados podem ser removidos antes de se tornarem frios. Use a taxa de acerto de cache para determinar se deve aumentar a capacidade.

Quanto a taxa de acerto de cache diminui após eu reduzir a capacidade de cache?

Primeiro, verifique a capacidade de cache disponível indicada pela utilização de espaço e, em seguida, consulte a relação medida entre capacidade de cache e taxa de acerto. Para uma carga de trabalho com localidade de acesso, um teste de padrão de acesso 80/20 mostrou que reduzir a capacidade de cache pela metade diminuiu a taxa de acerto de 98,0% para 86,9%, uma queda de aproximadamente 11 pontos percentuais. Para leituras aleatórias, a taxa de acerto muda aproximadamente de forma linear com a proporção da capacidade de cache. Reduzir a capacidade causa uma diminuição aproximadamente proporcional na taxa de acerto. Reduza a capacidade em incrementos e verifique a taxa de acerto e o mapa de calor de cache novamente após cada ajuste.

Por que quase todo o tráfego de acesso está concentrado em seg 0~9?

Duas situações são possíveis. Use a distribuição de espaço para distingui-las. Primeiro, a localidade de acesso pode ser forte e o cache pode estar funcionando corretamente. Nesse caso, os segmentos posteriores ainda têm uma distribuição de espaço normal e a taxa de acerto de cache é alta. Segundo, a capacidade pode estar gravemente insuficiente e os dados podem ser removidos rapidamente. Nesse caso, a proporção de espaço da zona de remoção também está próxima de 0 e a taxa de acerto de cache é baixa. A segunda situação exige um aumento de capacidade. Compare os cenários High cache hit rate: Evaluate a capacity reduction e Low cache hit rate: Evaluate a capacity increase.

Com que frequência devo verificar o mapa de calor de cache?

Ao avaliar a capacidade de cache, colete amostras em intervalos de nível de minuto durante o horário comercial de pico e observe vários ciclos de negócios. Para verificações de rotina, inspecione o gráfico diária ou semanalmente em busca de mudanças estruturais. Uma mudança significativa no padrão do gráfico normalmente indica que o padrão de acesso da carga de trabalho mudou.