結合SLS分析OSS-HDFS服務熱點訪問資料

更新時間:
Copy as MD

為了有效地管理和分析OSS-HDFS服務的審計日誌,您需要將審計日誌匯入Log ServiceSLS,然後通過SLS內建的查詢分析能力對收集的審計日誌進行分析,擷取OSS-HDFS服務不同時間段內的訪問量變化,分析頻繁訪問的資料、檢測異常訪問行為等資訊。本教程用於示範如何通過SLS分析OSS-HDFS服務熱點訪問資料。

前提條件

操作步驟

步驟1:將OSS-HDFS服務審計記錄檔匯入Log Service

  1. Log Service控制台的OSS-資料匯入頁面的選擇日誌空間頁簽,選擇已建立的ProjectLogstore(用於存放OSS-HDFS原始審計日誌資料),然後單擊下一步

  2. 匯入配置頁簽,按要求配置以下參數,其他參數保留預設配置。

    參數

    說明

    OSS地區

    選擇已開通OSS-HDFS服務的Bucket所在地區。

    Bucket

    選擇已開通OSS-HDFS服務的Bucket名稱。

    檔案路徑首碼過濾

    填寫OSS-HDFS服務審計記錄檔路徑,樣本值為.dlsdata/.sysinfo/auditlog-v2/2024-11-26/2024-11-26-00-00-04.auditlog。關於審計日誌的各欄位含義說明,請參見欄位說明

    OSS控制台檔案清單頁面的OSS檔案頁簽擷取OSS-HDFS服務審計記錄檔路徑。

    資料格式

    選中單行文本日誌

  3. 單擊預覽,預覽匯入結果。確認無誤後,單擊下一步

  4. 完成匯入後,單擊查詢日誌,進入查詢和分析頁面,確認是否成功匯入OSS資料。

    等待1分鐘左右,如果有目標OSS資料匯入,則說明匯入成功。匯入成功後,可以看到如下原始日誌。

    原始日誌中每條記錄包含以下關鍵字段:content(包含時間戳記)、allowed(如 true)、ugi(如 admin (auth:UNKNOWN))、cmd(如 getfileinfo src=/user/root/.Trash)、ipdstperm 以及 proto(如 rest)。

步驟2:對匯入LogstoreOSS-HDFS服務審計日誌進行資料加工

  1. 預覽資料加工結果。

    1. 單擊用於存放OSS-HDFS原始審計日誌資料的Logstore右側的資料加工

    2. 在頁面右上方,選擇資料的時間範圍。

    3. 在編輯框中,輸入以下SPL語句。

      SPL文法請參見SPL文法

      *
      | parse-regexp content, '(\d+-\d+-\d+\s\d+:\d+:\S+\s).*'  as tm
      | parse-kv -regexp content, '(\w+)=([^\t]*)'
      | extend bucket=__source__
    4. 將部分原始日誌加入測試資料,驗證解析結果。

      在資料加工頁面編輯區輸入DSL語句:使用 parse-regexp 提取時間欄位 tm,使用 parse-kv 以正則方式解析 content 欄位中的索引值對,使用 extend bucket=__source__ 擴充欄位。選中第2-3行語句後,切換到原始日誌頁簽可預覽HDFS審計日誌,日誌條目包含 __source____tag__:__object__content 等欄位,其中 content 包含 allowed=trueugi=admincmd=getfileinfosrc=/user/root/.Trash 等索引值對。

    5. 點擊image按鈕,執行調試運行。

    6. 運行完成後查看加工結果,解析後的格式化資料參考如下。

      格式化資料包含 allowedbucketcmdcontentdstippermprotosrctmugi 等索引值對欄位,例如 cmd 值為 getfileinfoproto 值為 restsrc 值為 /user/root/.Trashugi 值為 admin (auth:UNKNOWN) 等。

  2. 儲存資料加工結果。

    1. 單擊儲存資料加工(新版)

    2. 建立資料加工任務(新版)面板中,按要求配置以下參數,其他參數保留預設配置,然後單擊確定

      顯示名稱設定為 oss-hdfs-audit-log授權方式選擇預設角色。在儲存目標地區,將目標名稱設定為 oss-hdfs-audit-log目標Region選擇華東1(杭州)目標Project目標庫分別選擇目標Project和目標Logstore,授權方式選擇預設角色。在加工範圍(資料接收時間)地區,時間範圍選擇所有

步驟3:分析OSS-HDFS服務熱點訪問資料

  1. 進入用於儲存資料加工結果的Logstore,單擊右側的開啟索引

  2. 查詢分析面板,單擊自動產生索引>追加>確定

    說明

    開啟後等待1min左右即可查詢最新資料。

  3. 輸入以下SQL語句,然後單擊查詢 / 剖析

    說明

    src欄位表示檔案路徑。通過統計src的請求訪問次數評估熱點資料訪問量。

    * | SELECT src,COUNT(*) AS count FROM log GROUP BY src ORDER BY count DESC
  4. 查看熱點訪問資料路徑。

    SLS查詢分析頁面執行SQL語句 SELECT src, COUNT(*) AS count FROM log GROUP BY src ORDER BY count DESC,按源路徑分組統計訪問次數並降序排列。查詢結果顯示熱點訪問路徑,例如 /user/root/.Trash 訪問次數最多為1268次。

相關文檔

  • SLS支援匯入OSS Bucket中的記錄檔,方便後續日誌查詢和分析。更多資訊,請參見匯入OSS資料

  • SLS支援基於SPL規則消費源Logstore中的資料,並將SPL規則處理結果寫入到的目標Logstore中。您也可以對加工後的資料進行查詢和分析,進一步發掘資料價值。更多資訊,請參見建立資料加工(新版)任務

  • 對採集到SLS Logstore中的日誌進行查詢和分析,需要建立索引。更多資訊,請參見建立索引

  • SLS支援使用SQL語句對查詢結果進行分析。更多資訊,請參見SQL分析文法與功能