結合SLS分析OSS-HDFS服務熱點訪問資料
為了有效地管理和分析OSS-HDFS服務的審計日誌,您需要將審計日誌匯入Log ServiceSLS,然後通過SLS內建的查詢分析能力對收集的審計日誌進行分析,擷取OSS-HDFS服務不同時間段內的訪問量變化,分析頻繁訪問的資料、檢測異常訪問行為等資訊。本教程用於示範如何通過SLS分析OSS-HDFS服務熱點訪問資料。
前提條件
-
您需要建立2個Logstore,分別用於存放OSS-HDFS原始審計日誌資料,以及審計日誌資料加工結果。
操作步驟
步驟1:將OSS-HDFS服務審計記錄檔匯入Log Service
-
在Log Service控制台的OSS-資料匯入頁面的選擇日誌空間頁簽,選擇已建立的Project和Logstore(用於存放OSS-HDFS原始審計日誌資料),然後單擊下一步。
-
在匯入配置頁簽,按要求配置以下參數,其他參數保留預設配置。
參數
說明
OSS地區
選擇已開通OSS-HDFS服務的Bucket所在地區。
Bucket
選擇已開通OSS-HDFS服務的Bucket名稱。
檔案路徑首碼過濾
填寫OSS-HDFS服務審計記錄檔路徑,樣本值為
.dlsdata/.sysinfo/auditlog-v2/2024-11-26/2024-11-26-00-00-04.auditlog。關於審計日誌的各欄位含義說明,請參見欄位說明。從OSS控制台檔案清單頁面的OSS檔案頁簽擷取OSS-HDFS服務審計記錄檔路徑。
資料格式
選中單行文本日誌。
-
單擊預覽,預覽匯入結果。確認無誤後,單擊下一步。
-
完成匯入後,單擊查詢日誌,進入查詢和分析頁面,確認是否成功匯入OSS資料。
等待1分鐘左右,如果有目標OSS資料匯入,則說明匯入成功。匯入成功後,可以看到如下原始日誌。
原始日誌中每條記錄包含以下關鍵字段:
content(包含時間戳記)、allowed(如true)、ugi(如admin (auth:UNKNOWN))、cmd(如getfileinfo src=/user/root/.Trash)、ip、dst、perm以及proto(如rest)。
步驟2:對匯入Logstore的OSS-HDFS服務審計日誌進行資料加工
-
預覽資料加工結果。
-
單擊用於存放OSS-HDFS原始審計日誌資料的Logstore右側的資料加工。
-
在頁面右上方,選擇資料的時間範圍。
-
在編輯框中,輸入以下SPL語句。
SPL文法請參見SPL文法。
* | parse-regexp content, '(\d+-\d+-\d+\s\d+:\d+:\S+\s).*' as tm | parse-kv -regexp content, '(\w+)=([^\t]*)' | extend bucket=__source__ -
將部分原始日誌加入測試資料,驗證解析結果。
在資料加工頁面編輯區輸入DSL語句:使用
parse-regexp提取時間欄位tm,使用parse-kv以正則方式解析content欄位中的索引值對,使用extend bucket=__source__擴充欄位。選中第2-3行語句後,切換到原始日誌頁簽可預覽HDFS審計日誌,日誌條目包含__source__、__tag__:__object__、content等欄位,其中content包含allowed=true、ugi=admin、cmd=getfileinfo、src=/user/root/.Trash等索引值對。 -
點擊
按鈕,執行調試運行。 -
運行完成後查看加工結果,解析後的格式化資料參考如下。
格式化資料包含
allowed、bucket、cmd、content、dst、ip、perm、proto、src、tm、ugi等索引值對欄位,例如cmd值為getfileinfo、proto值為rest、src值為/user/root/.Trash、ugi值為admin (auth:UNKNOWN)等。
-
-
儲存資料加工結果。
-
單擊儲存資料加工(新版)。
-
在建立資料加工任務(新版)面板中,按要求配置以下參數,其他參數保留預設配置,然後單擊確定。
將顯示名稱設定為
oss-hdfs-audit-log,授權方式選擇預設角色。在儲存目標地區,將目標名稱設定為oss-hdfs-audit-log,目標Region選擇華東1(杭州),目標Project和目標庫分別選擇目標Project和目標Logstore,授權方式選擇預設角色。在加工範圍(資料接收時間)地區,時間範圍選擇所有。
-
步驟3:分析OSS-HDFS服務熱點訪問資料
-
進入用於儲存資料加工結果的Logstore,單擊右側的開啟索引。
-
在查詢分析面板,單擊自動產生索引>追加>確定。
說明開啟後等待1min左右即可查詢最新資料。
-
輸入以下SQL語句,然後單擊查詢 / 剖析。
說明src欄位表示檔案路徑。通過統計src的請求訪問次數評估熱點資料訪問量。
* | SELECT src,COUNT(*) AS count FROM log GROUP BY src ORDER BY count DESC -
查看熱點訪問資料路徑。
在SLS查詢分析頁面執行SQL語句
SELECT src, COUNT(*) AS count FROM log GROUP BY src ORDER BY count DESC,按源路徑分組統計訪問次數並降序排列。查詢結果顯示熱點訪問路徑,例如/user/root/.Trash訪問次數最多為1268次。
相關文檔
-
SLS支援匯入OSS Bucket中的記錄檔,方便後續日誌查詢和分析。更多資訊,請參見匯入OSS資料。
-
SLS支援基於SPL規則消費源Logstore中的資料,並將SPL規則處理結果寫入到的目標Logstore中。您也可以對加工後的資料進行查詢和分析,進一步發掘資料價值。更多資訊,請參見建立資料加工(新版)任務。
-
對採集到SLS Logstore中的日誌進行查詢和分析,需要建立索引。更多資訊,請參見建立索引。
-
SLS支援使用SQL語句對查詢結果進行分析。更多資訊,請參見SQL分析文法與功能。