全部產品
Search
文件中心

Platform For AI:LLM-刪除LaTeX文檔頭(DLC)

更新時間:Nov 20, 2024

LLM-刪除LaTeX文檔頭(DLC)組件適用於TEX文檔格式資料。主要功能是找到第一個匹配<section-type>[optional-args]{name}章節格式的字串,並將其之前的所有內容刪除,保留第一個匹配到章節後的所有內容,包括該章區段標頭。輸入的OSS資料檔案(JSONL格式,樣本)需符合:每一行是一個合法的JSON對象,檔案由多行JSON對象組成,整個檔案本身不是合法的JSON對象。

支援的計算資源

DLC

演算法說明

定義LaTeX格式文本章節的Regex為:r'^(.*?)(\\\bchapter\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bpart\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\})'(多個匹配欄位用“|”分隔)。

定位到滿足上述Regex的第一個字串,將其之前的所有內容刪除,保留第一個匹配到章節後的所有內容,包括該章區段標頭。樣本如下:

處理前

image

處理後

image

配置組件

在Designer工作流程頁面添加LLM-刪除LaTeX文檔頭(DLC)組件,並在介面右側配置相關參數:

參數類型

參數

是否必選

描述

預設值

欄位設定

目標處理欄位

要處理的欄位名稱。

是否刪除沒有匹配到章節格式的樣本

如果勾選此選項,如果樣本沒有匹配到任何章節格式,則刪除該樣本。

選中

資料輸出OSS目錄

處理後資料的OSS儲存目錄。如果為空白,使用工作空間預設路徑。

執行調優

多進程個數

設定進程數。

8

選擇資源群組

公用資源群組

選擇節點規格(CPU或GPU執行個體規格)、節點數量、專用網路。

專有資源群組

選擇CPU核心數、記憶體、共用記憶體、GPU卡數、節點數量。

最大運行時間長度

組件最大運行時間長度,超過這個時間,作業會被kill。