Object Storage Service:Optimize OSS accelerator capacity by using cache heatmaps

Présentation de la fonctionnalité

Pour déterminer s'il est nécessaire d'ajuster la capacité du cache d'un accélérateur, examinez conjointement les informations suivantes :

• Taux de succès en cache de l'accélérateur OSS (cache hit rate) : indique l'efficacité d'accélération du cache actuel.

• Utilisation de l'espace du cache de l'accélérateur OSS (space utilization) : pourcentage de la capacité totale utilisée occupé par chaque segment seg dans la carte thermique du cache.

• Carte thermique du cache : affiche la distribution du trafic d'accès sur la plage de temps sélectionnée et un instantané de la distribution spatiale des données mises en cache au moment de la requête. Ces informations expliquent pourquoi le taux de succès en cache est élevé ou faible.

Le taux de succès en cache mesure l'efficacité de l'accélération, la carte thermique du cache explique les modèles d'accès et l'utilisation de l'espace indique le pourcentage d'espace mis en cache occupé par chaque segment seg. Ensemble, ces métriques vous aident à déterminer si la capacité actuelle du cache est appropriée :

• Lorsque le taux de succès en cache est faible : si une petite partie des données mises en cache reçoit la majorité du trafic d'accès, la charge de travail présente des points d'accès clairs et l'augmentation de la capacité peut améliorer le taux de succès en cache. Si la distribution du trafic d'accès est similaire à la distribution de l'utilisation de l'espace, la charge de travail est généralement dominée par des accès aléatoires. Évaluez les avantages avant d'augmenter la capacité.

• Lorsque le taux de succès en cache reste élevé : vérifiez l'utilisation de l'espace ainsi que le trafic d'accès et l'utilisation de l'espace des données les moins récemment consultées pour déterminer si la capacité peut être réduite. Utilisez la relation mesurée entre la capacité du cache et le taux de succès en cache pour évaluer l'impact d'une réduction de capacité.

Pour savoir comment accéder aux cartes thermiques du cache et les interroger dans la console, consultez la rubrique Surveiller les accélérateurs.

Description du graphique

Sur la page de surveillance d'un accélérateur OSS, vous pouvez afficher la carte thermique du cache dans la carte Cache Heatmap Monitoring.

L'axe horizontal représente l'ordre dans lequel les données mises en cache ont été consultées pour la dernière fois, et non le temps chronologique. De gauche à droite, les données passent des plus récemment consultées aux moins récemment consultées. Sur la base de cet ordre, le système divise uniformément les données mises en cache en 10 segments, de seg 0~9 à seg 90~99 :

• seg 0~9 se trouve à l'extrême gauche du graphique et représente les données les plus récemment consultées.

• seg 90~99 se trouve à l'extrême droite du graphique et représente les données les moins récemment consultées.

Cette rubrique désigne l'ordre d'accès sous le terme d'âge relatif. L'âge relatif évolue à mesure que l'activité d'accès au cache se poursuit. Il ne correspond ni à l'heure de création de l'objet ni à la durée pendant laquelle un objet a été mis en cache, et ne peut pas être converti en un nombre fixe de minutes ou d'heures. Par exemple, les données du segment seg 90~99 peuvent rester non consultées pendant seulement quelques minutes sur une instance très sollicitée avec un QPS élevé, mais pendant plusieurs heures sur une instance inoccupée. L'âge relatif indique uniquement l'ordre d'accès des données mises en cache dans le graphique actuel. Ne comparez pas directement le même segment seg sur différentes périodes de la même instance ou entre différentes instances, et ne l'interprétez pas comme représentant la même durée.

Lorsque le cache d'un accélérateur OSS est plein, les données les moins récemment consultées sont expulsées en premier lorsque de nouvelles données doivent être mises en cache. Par conséquent, cette rubrique désigne le segment seg 80~99 comme la zone de préparation à l'expulsion. La bannière en haut de la console abrège ce terme en zone d'expulsion.

La carte Cache Heatmap Monitoring contient les éléments suivants.

Pour vous aider à évaluer la fréquence d'accès aux données mises en cache, cette rubrique regroupe les 10 segments seg dans les quatre zones suivantes.

La console marque la zone de préparation à l'expulsion avec un arrière-plan jaune clair. Les termes zone active, zone tiède et zone froide sont utilisés dans cette rubrique pour faciliter l'analyse. Le graphique de la console n'affiche pas d'étiquettes pour ces zones.

À des IOPS extrêmement élevés, le système peut ignorer certaines données de chaleur d'accès, mais les proportions relatives et la tendance globale entre les segments seg restent cohérentes. Cela n'affecte pas les décisions d'augmentation ou de réduction de la capacité. Pour afficher le trafic d'accès absolu, utilisez les métriques QPS ou bande passante.

Ajuster la capacité du cache

Commencez par utiliser le tableau suivant pour identifier le modèle du graphique, puis vérifiez l'exemple correspondant. N'ajustez pas la capacité du cache d'un accélérateur uniquement sur la base de la carte thermique. Obtenez le taux de succès en cache à partir de la métrique Hit Rate dans la surveillance de l'accélérateur, et obtenez les ratios d'accès et d'espace de la zone de préparation à l'expulsion à partir de la carte thermique du cache.

Une fois que vous avez déterminé que la capacité du cache doit être ajustée, consultez la rubrique Créer, modifier et supprimer un accélérateur OSS pour modifier la capacité du cache de l'accélérateur OSS.

Si le taux de succès en cache est compris entre 80 % et 95 %, ne tirez pas de conclusion uniquement sur la base des seuils. Prenez en compte conjointement votre taux de succès en cache cible, le modèle du graphique, l'utilisation de l'espace et la bande passante de l'origine.

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  62%    18%     8%     5%     3%     2%     1%     1%     0%     0%
Space usage ratio     16%    19%    13%    10%     8%     5%     4%     3%     1%     21%

Banner: Eviction zone access ratio: 0%; space ratio: 22%

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  88%    10%     2%     0%     0%     0%     0%     0%     0%     0%
Space usage ratio     58%    34%     8%     0%     0%     0%     0%     0%     0%     0%

Banner: Eviction zone access ratio: 0%; space ratio: 0%

seg                  0~9  10~19  20~29  30~39  40~49  50~59  60~69  70~79  80~89  90~99
Access traffic ratio  30%    20%    14%    11%     8%     6%     5%     3%     2%     1%
Space usage ratio     30%    19%    14%    11%     8%     6%     5%     4%     2%     1%

Recommandations

1. Sélectionnez des périodes représentatives. Évaluez la capacité du cache pendant les périodes de forte activité de la journée pour éviter que les données hors pointe ne sous-estiment les besoins en capacité. Pour les charges de travail présentant des pics quotidiens ou hebdomadaires clairs, tels que les tâches batch nocturnes, observez séparément les périodes de pointe et hors pointe.

2. Observez plusieurs cycles consécutifs. Un échantillon unique ou une courte période d'observation peut être affecté par des fluctuations transitoires. Observez plusieurs cycles métier consécutifs pendant au moins 6 heures et évitez les ajustements fréquents de la capacité du cache pendant la période d'observation.

3. Réduisez la capacité par incréments. Réduisez la capacité du cache par incréments en fonction de la capacité disponible indiquée par l'utilisation de l'espace. Après chaque réduction, vérifiez à nouveau la carte thermique du cache et le taux de succès en cache. Avant de poursuivre, confirmez que la zone active (seg 0~9) n'est pas compressée et que la zone de préparation à l'expulsion (seg 80~99) n'est pas vide.

4. Calibrez séparément les niveaux de capacité élastique. Pour les scénarios de mise à l'échelle élastique, tels que l'augmentation de la capacité la nuit et sa réduction pendant la journée, utilisez les cartes thermiques des périodes de pointe et hors pointe pour calibrer séparément les deux niveaux de capacité du cache.

5. Vérifiez conjointement les métriques de surveillance. Utilisez la carte thermique du cache pour expliquer les variations du taux de succès en cache, et utilisez le taux de succès en cache ainsi que la bande passante de l'origine pour vérifier le résultat d'un ajustement. Si les métriques conduisent à des conclusions incohérentes, vérifiez d'abord si le modèle d'accès de la charge de travail a récemment changé.

FAQ

Une utilisation de l'espace du cache de l'accélérateur OSS à 100 % signifie-t-elle que je dois augmenter la capacité du cache ?

Non. Un accélérateur OSS utilise la politique d'expulsion LRU (Least Recently Used) et commence à expulser les données uniquement lorsque son cache est plein. Si le volume total de données dépasse la capacité du cache, l'utilisation de l'espace atteint 100 %. Un faible taux de succès en cache combiné à un ratio d'espace proche de 0 % dans la zone de préparation à l'expulsion indique une capacité de cache insuffisante.

Est-il anormal que la zone de préparation à l'expulsion occupe de l'espace mais ne reçoive aucun trafic d'accès ?

Non. La zone de préparation à l'expulsion stocke les données froides sur le point d'être remplacées par de nouvelles données. Il est normal que cette zone occupe de l'espace tout en recevant presque aucun trafic d'accès. Si le ratio d'espace de cette zone est proche de 0, les données peuvent être expulsées avant de devenir froides. Utilisez le taux de succès en cache pour déterminer s'il faut augmenter la capacité.

De combien le taux de succès en cache diminue-t-il après la réduction de la capacité du cache ?

Vérifiez d'abord la capacité de cache disponible indiquée par l'utilisation de l'espace, puis reportez-vous à la relation mesurée entre la capacité du cache et le taux de succès en cache. Pour une charge de travail présentant une localité d'accès, un test avec un modèle d'accès 80/20 a montré que la division par deux de la capacité du cache réduisait le taux de succès en cache de 98,0 % à 86,9 %, soit une diminution d'environ 11 points de pourcentage. Pour les lectures aléatoires, le taux de succès en cache varie approximativement de manière linéaire avec le ratio de capacité du cache. La réduction de la capacité entraîne une diminution approximativement proportionnelle du taux de succès en cache. Réduisez la capacité par incréments et vérifiez à nouveau le taux de succès en cache et la carte thermique du cache après chaque ajustement.

Pourquoi presque tout le trafic d'accès est-il concentré dans seg 0~9 ?

Deux situations sont possibles. Utilisez la distribution spatiale pour les distinguer. Premièrement, la localité d'accès peut être forte et le cache peut fonctionner correctement. Dans ce cas, les segments ultérieurs présentent toujours une distribution spatiale normale et le taux de succès en cache est élevé. Deuxièmement, la capacité peut être gravement insuffisante et les données peuvent être expulsées rapidement. Dans ce cas, le ratio d'espace de la zone d'expulsion est également proche de 0 et le taux de succès en cache est faible. La deuxième situation nécessite une augmentation de la capacité. Comparez les scénarios Taux de succès en cache élevé : Évaluer une réduction de capacité et Taux de succès en cache faible : Évaluer une augmentation de capacité.

À quelle fréquence dois-je vérifier la carte thermique du cache ?

Lorsque vous évaluez la capacité du cache, collectez des échantillons à des intervalles de niveau minute pendant les heures de pointe de l'activité métier et observez plusieurs cycles métier. Pour les vérifications de routine, inspectez le graphique quotidiennement ou hebdomadairement pour détecter les changements structurels. Un changement significatif du modèle du graphique indique généralement que le modèle d'accès de la charge de travail a changé.