OSSIngestionConfigurationSource

更新時間:
Copy as MD

名稱

類型

描述

樣本值

object

OSS 匯入配置

endpoint

string

oss endpoint

oss-cn-hangzhou.aliyuncs.com

bucket

string

oss bucket

ossbucket

compressionCodec

string

壓縮類型

none

encoding

string

編碼類別型

UTF-8

interval

string

檢查新檔案周期

never

pattern

string

檔案路徑正則過濾

.*

prefix

string

檔案路徑首碼過濾

prefix

restoreObjectEnabled

boolean

匯入歸檔檔案

true

startTime

integer

某個時間點後修改過的檔案

1714274081

endTime

integer

某個時間點前修改過的檔案

1714360481

timeField

string

提取時間欄位

__time__

timeFormat

string

時間欄位格式

yyyy-MM-dd HH:mm:ss

timePattern

string

提取時間正則

[0-9]{0,2}\/[0-9a-zA-Z]+\/[0-9:,]+

timeZone

string

時間欄位分區

GMT+08:00

useMetaIndex

boolean

使用 OSS 中繼資料索引

false

roleARN

string

roleArn

acs:ram::12345:role/aliyunlogdefaultrole

tagPackId

boolean

啟動上下文檢索

true

processorId

string

寫入處理器 id

ingest-processor-1756802123-953901

format

object

格式

any

OSS 資料格式。

  • 單行文本日誌:{"type":"Line"}

  • CSV:

{
  "type": "CSV",
  "fieldDelimiter": ",",   //分隔字元
  "quoteChar": "\"",      //引號
  "escapeChar": "\\",    //轉義符
  "firstRowAsHeader": true,    //首行是否作為欄位名稱
  "maxLines": 1,    //日誌最大跨行數
  "skipLeadingRows": 0   //跳過行數
}

  • 單行 JSON:{"type": "JSON"}

  • 跨行文本日誌:

{
  "type": "Multiline",
  "match": "after", //正字匹配位置
  "pattern": "\\d+", //Regex
  "maxLines": 10 //最大行數
}
  • ORC:{"type": "ORC"}

  • Parquet:{"type": "Parquet"}

  • 阿里雲 OSS 訪問日誌:{"type": "ossAccessLog"}

  • 阿里雲 CDN 下載日誌:{"type": "cdnDownloadedLog"}

{"type": "Line"}

advancedParameters

object

any