全部產品
Search
文件中心

Platform For AI:LLM-長度過濾(DLC)

更新時間:Jul 13, 2024

LLM-長度過濾(DLC)組件主要用於根據文本長度、平均長度、最大行長度等過濾樣本。輸入的OSS資料檔案(JSONL格式,樣本)需符合:每一行是一個合法的JSON對象,檔案由多行JSON對象組成,整個檔案本身不是合法的JSON對象。

支援的計算資源

DLC

配置組件

在Designer工作流程頁面添加LLM-長度過濾(DLC)組件,並在介面右側配置相關參數:

參數類型

參數

是否必選

描述

預設值

欄位設定

目標處理欄位

要處理的欄位名稱。

是否根據樣本長度過濾

是否根據樣本長度過濾。如果選中,需配置以下參數:

  • 長度最小值:長度小於該值將被過濾掉。

  • 長度最大值:長度大於該值將被過濾掉。

未選中

是否根據樣本平均長度過濾

根據分行符號將文本拆分,並統計拆分後的列表平均長度,根據樣本的平均長度值進行過濾。如果選中,需配置以下參數:

  • 平均長度最小值:樣本平均長度小於該值將被過濾掉。

  • 平均長度最大值:樣本平均長度大於該值將被過濾掉。

未選中

是否根據樣本最大行長度過濾

根據分行符號將文本拆分,並統計拆分後的列表中最大一行的長度,根據樣本的最大行長度值進行過濾。如果選中,需配置以下參數:

  • 最大行長度最小值:最大一行的長度小於該值樣本將被過濾掉。

  • 最大行長度最大值:最大一行的長度大於該值樣本將被過濾掉。

未選中

資料輸出OSS目錄

處理後資料的OSS儲存目錄。如果為空白,使用工作空間預設路徑。

執行調優

多進程個數

設定進程數。

8

選擇資源群組

公用資源群組

選擇節點規格(CPU或GPU執行個體規格)、節點數量、專用網路。

專有資源群組

選擇CPU核心數、記憶體、共用記憶體、GPU卡數、節點數量。

最大運行時間長度

組件最大運行時間長度,超過這個時間,作業會被kill。