當 OSS 加速器的快取命中率不符合預期,或需要評估縮容空間時,僅查看快取命中率難以判斷OSS加速器緩衝容量是否合適。緩衝熱度圖展示已快取資料的訪問和空間分布,可用於判斷是否需要調整加速器緩衝容量。
緩衝熱度監控目前處於邀測狀態。如需使用,請提交工單聯絡申請開通。
功能說明
判斷是否需要調整加速器緩衝容量,需要聯合查看以下資訊:
加速器快取命中率(以下簡稱快取命中率):用於判斷當前緩衝的加速效果。
加速器緩衝空間使用率(以下簡稱空間使用率):緩衝熱度圖中各
seg分段在總使用容量中的佔比。緩衝熱度圖:展示所選時間範圍內的訪問流量分布和查詢時已快取資料的空間分布,用於解釋快取命中率較高或較低的原因。
快取命中率反映加速效果,緩衝熱度圖解釋訪問模式,空間使用率反映各個seg段佔用已緩衝空間的比例。結合這三類資訊,可以判斷當前緩衝容量是否合理:
快取命中率偏低時:如果少部分快取資料承載了大部分訪問流量,說明訪問熱點明顯,擴容可能提高快取命中率;如果訪問流量與空間佔用的分布接近,通常表示以隨機訪問為主,應先評估擴容收益。
快取命中率持續較高時:結合空間使用率,以及最久未被訪問資料的訪問流量和空間佔用情況,判斷是否存在縮容空間,並參考緩衝容量與快取命中率的實測關係評估縮容影響。
關於緩衝熱度圖的控制台入口和查詢步驟,請參見加速器監控。
圖表說明
在 OSS 加速器的監控頁面,可以通過緩衝熱度監控卡片查看緩衝熱度圖。

圖表橫軸表示快取資料最近一次被訪問的先後順序,不是自然時間軸。從左至右,快取資料由最近被訪問逐漸層為最久未被訪問。系統按照這一順序將快取資料均分為 seg 0~9~seg 90~99 共 10 個分段:
seg 0~9位於圖表最左側,表示最近被訪問的資料。seg 90~99位於圖表最右側,表示最久未被訪問的資料。
本文將這種訪問先後順序稱為“相對年齡”。相對年齡會隨緩衝訪問活動推進,不是對象的建立時間或緩衝時間長度,也不能換算為固定的分鐘或小時。例如,同樣位於 seg 90~99 的資料,在高 QPS 的繁忙執行個體中可能幾分鐘未被訪問,在空閑執行個體中可能幾小時未被訪問。相對年齡只用於表示當前圖表中快取資料的訪問先後關係,不要在同一執行個體的不同時段之間或不同執行個體之間直接比較相同的 seg,也不要將其換算為相同的時間長度。
OSS 加速器緩衝寫滿後,如果需要緩衝新資料,會優先淘汰最久未被訪問的資料。因此,本文將 seg 80~99 稱為淘汰準備區。控制台頂部資訊條中簡稱為淘汰區。
緩衝熱度監控卡片由以下部分組成。
卡片元素 | 含義 | 資料性質 |
統計時間範圍 | 用於選擇訪問流量的統計時段。 | 影響訪問流量佔比,不改變空間佔用佔比的快照性質。 |
頂部淘汰區資訊條 | 匯總展示淘汰準備區( | 所選時間範圍的關鍵統計結果。 |
訪問流量佔比(柱狀圖) | 所選時間範圍內,訪問請求在各 | 增量值,反映所選時間範圍內產生的訪問。 |
空間佔用佔比(折線圖) | 該 | 快照值,反映當前已快取資料在各 |
為了便於判斷快取資料的冷熱程度,本文將 10 個 seg 分段歸納為以下四個地區。
分區 | 範圍 | 含義 | 常見表現 |
活躍區 |
| 最近被訪問的熱資料,快取命中率主要由這部分資料貢獻。 | 訪問流量通常集中在該地區。 |
溫區 |
| 有一定複用、正在逐漸層冷的資料。 | 有一定空間佔用,訪問流量逐段衰減。 |
冷區 |
| 較長時間未被訪問的資料。 | 空間佔用佔比較低。 |
淘汰準備區 |
| 最冷且最先被淘汰的資料。 | 有空間佔用但幾乎沒有訪問流量屬於正常現象;如果空間佔比接近 0,表示資料可能來不及變冷就被淘汰。 |
控制台使用淡黃色底紋標記淘汰準備區。活躍區、溫區和冷區是本文用於輔助判斷的名稱,控制台圖表中不顯示對應標記。
在極高 IOPS 情境中,系統可能丟棄部分訪問的熱度記錄,但各 seg 分段之間的比例關係和整體趨勢保持一致,用於擴縮容判斷不受影響。如果需要查看絕對訪問量,請以 QPS 或頻寬監控為準。
調整緩衝容量
先使用下表初步匹配圖表形態,再查看對應樣本。調整加速器緩衝容量不能只依據熱度圖:快取命中率通過加速器監控中的命中率指標查看,淘汰準備區的訪問佔比和空間佔比通過緩衝熱度圖查看。
確定需要調整緩衝容量後,請參見建立、修改和刪除加速器修改OSS加速器緩衝容量。
圖表形態 | 快取命中率 | 淘汰準備區空間佔比 | 淘汰準備區訪問佔比 | 判斷與建議 |
訪問流量集中在前段,淘汰準備區保留一定空間 | 大於 95% | 大於10% | 小於 5% | 緩衝容量可能富餘。結合空間使用率預留安全餘量後,可以適度縮容。 |
訪問流量和空間佔用都集中在前段 | 小於 80% | 接近 0% | 接近 0% | 緩衝容量可能不足,建議逐步擴容。 |
訪問流量佔比與空間佔用佔比逐段接近 | 任意 | 與訪問流量分布接近 | 與空間佔用分布接近 | 隨機訪問為主。先評估擴容的投入產出,再決定是否調整緩衝容量。 |
快取命中率處於 80%~95% 時,不宜直接根據閾值作出結論。根據業務的快取命中率目標,結合圖表形態、空間使用率和回源頻寬綜合判斷。
快取命中率高:評估縮容
特徵:訪問流量集中在活躍區(seg 0~9)和溫區(seg 10~49),淘汰準備區(seg 80~99)有一定空間但訪問流量較少,同時快取命中率較高。這表示緩衝已經開始淘汰較冷的資料,快取命中率接近當前訪問模型下的上限。
樣本資料:
seg 0~9 10~19 20~29 30~39 40~49 50~59 60~69 70~79 80~89 90~99
訪問流量佔比 62% 18% 8% 5% 3% 2% 1% 1% 0% 0%
空間佔用佔比 16% 19% 13% 10% 8% 5% 4% 3% 1% 21%
資訊條:淘汰區訪問佔比 0%,空間佔比 22%建議:無需擴容。如果需要降低成本,在快取命中率高於95%、淘汰準備區空間佔比大於10%且訪問佔比小於5%的情況下,可以考慮分步縮容。例如,上述樣本中淘汰準備區的空間佔比為22%,訪問佔比小於5%,可考慮縮容5%~10%。縮容後,重新查看緩衝熱度圖和快取命中率,再決定是否繼續縮容。
快取命中率低:評估擴容
特徵:訪問流量佔比和空間佔用佔比都集中在圖表前部(seg 0~19),淘汰準備區(seg 80~99)的空間佔比和訪問佔比接近 0%,同時快取命中率偏低。這表示資料在緩衝中停留時間較短,熱資料可能反覆回源並重新寫入緩衝。
樣本資料:
seg 0~9 10~19 20~29 30~39 40~49 50~59 60~69 70~79 80~89 90~99
訪問流量佔比 88% 10% 2% 0% 0% 0% 0% 0% 0% 0%
空間佔用佔比 58% 34% 8% 0% 0% 0% 0% 0% 0% 0%
資訊條:淘汰區訪問佔比 0%,空間佔比 0%建議:逐步增加加速器緩衝容量。擴容後至少等待 1 小時以上,再觀察資料。如果擴容有效,溫區中原本沒有資料的seg 20~49應出現空間佔用和訪問流量,同時快取命中率上升。
隨機訪問:評估收益
特徵:各 seg 分段的訪問流量佔比與空間佔用佔比幾乎相等,兩條序列接近重合,快取命中率隨緩衝容量近似線性變化。這通常表示大範圍隨機讀,快取資料沒有明顯的冷熱區分。
樣本資料:
seg 0~9 10~19 20~29 30~39 40~49 50~59 60~69 70~79 80~89 90~99
訪問流量佔比 30% 20% 14% 11% 8% 6% 5% 3% 2% 1%
空間佔用佔比 30% 19% 14% 11% 8% 6% 5% 4% 2% 1%在隨機讀測試中,緩衝容量為資料量的 1/2 時,快取命中率為 49.3%;緩衝容量為資料量的 1/5 時,快取命中率為 19.9%。作為對比,在相同的 1/2 緩衝容量下,80/20 訪問模型的快取命中率可以達到 86.9%。
80/20 訪問模型指80%的訪問集中在20%的資料上
建議:擴容可以提升快取命中率,但投入與收益基本呈線性關係,沒有明顯的收益拐點。
使用建議
選擇代表性時段。在單日內選擇業務繁忙時段評估緩衝容量,避免低峰資料低估容量需求。有明顯日峰或周峰的業務,例如夜間跑批,應分別觀察高峰和低穀。
連續觀察多個周期。單次或短周期資料容易受到瞬時波動影響。建議連續觀察多個業務周期,觀察時間不少於 6 小時,並在觀察期間避免頻繁調整緩衝容量。
分步縮容。根據空間使用率反映的餘量分步下調緩衝容量。每次縮容後重新查看緩衝熱度圖和快取命中率,確認活躍區(
seg 0~9)未被擠壓、淘汰準備區(seg 80~99)未被清空,再繼續調整。分別校準彈性容量。對於“夜擴日縮”等Auto Scaling情境,分別使用高峰和低穀時段的熱度圖校準兩個緩衝容量檔位。
聯合查看監控指標。緩衝熱度圖用於解釋快取命中率變化的原因,快取命中率和回源頻寬用於確認調整結果。如果各項指標的結論不一致,先確認業務訪問模型近期是否發生變化。
常見問題
加速器緩衝空間使用率已經達到 100%,是否必須擴容?
不一定。OSS 加速器採用最近最少使用(LRU)淘汰機制,緩衝空間寫滿後才開始淘汰資料。當資料總量大於緩衝容量時,空間使用率一定會達到 100%。如果快取命中率偏低,並且淘汰準備區的空間佔比也接近 0%,這兩個條件表示緩衝容量不足。
淘汰準備區有空間佔用但沒有訪問流量,是否異常?
不是。淘汰準備區儲存即將被新資料替換的冷資料,有空間佔用但幾乎沒有訪問流量屬於正常形態。如果該地區的空間佔比接近 0,資料可能來不及變冷就被淘汰,需要結合快取命中率判斷是否擴容。
縮容後快取命中率會下降多少?
先查看空間使用率反映的緩衝餘量,再參考緩衝容量與快取命中率的實測關係。有訪問局部性時,在 80/20 模型測試中,緩衝容量減半後,快取命中率從 98.0% 降至 86.9%,下降約 11 個百分點。隨機讀情境下,快取命中率與緩衝容量比例近似線性變化,縮減容量會導致快取命中率近似等比例下降。分步縮容,並在每次調整後重新查看快取命中率和緩衝熱度圖。
為什麼訪問流量幾乎全部集中在 seg 0~9?
可能存在兩種情況,需結合空間分布區分:一是訪問局部性很好、緩衝工作良好(此時後段仍有正常的空間分布、命中率高);二是容量嚴重不足、資料被快速淘汰(此時淘汰區空間也接近 0、命中率偏低),後者需要擴容。對照“快取命中率高:評估縮容”和“快取命中率低:評估擴容”兩個情境進行判斷。
多久觀察一次緩衝熱度圖比較合適?
評估緩衝容量時,建議在業務峰值時段按分鐘級間隔連續採樣,並觀察多個業務周期。日常巡檢時,可以按天或按周觀察圖形是否發生結構性變化。圖形形態明顯變化,通常表示業務訪問模型發生了變化。