Content Moderation：視頻審核增強版的控制台指南

應用情境

當您的業務遇到如下情境時，您可以基於阿里雲提供的視頻審核2.0版控制台實現對檢測規則和檢測範圍的個人化調整，也可以通過控制台查詢檢測結果、統計檢測量。

首次使用時，建議您登入Alibaba Content Security Service控制台查看視頻審核初始的檢測策略配置。

開通服務

訪問內容審核2.0版頁面，開通視頻審核2.0版服務。

調整視頻審核的風險檢測策略

根據行業常見特性或自身業務所需，對檢測的範圍和結果返回方式進行調整，以滿足業務要求。

1. 登入Alibaba Content Security Service控制台。

2. 在左側導覽列，選擇機器審核V2.0 > 視頻審核 > 規則配置。

3. 在規則配置頁面，單擊視頻檔案檢測（videoDetection_global）服務操作列设置规则。

4. 在視頻檔案檢測（videoDetection_global）服務規則配置頁面，根據業務需要調整相關配置。

   樣本：要求每個視頻都截取1000幀，檢測畫面是否有紅線類違規，同時需要檢測視頻中語音是否違規，且返回所有檢測結果，配置如下：

   1. 在畫面截圖方式處選擇固定總數截幀，截幀總數輸入框輸入1000，畫面審核規則選擇通用基準檢測。

      關於畫面審核規則的詳細資料，請參見圖片審核增強版2.0版介紹及計費說明。

      

   2. 開啟審核語音開關，並勾選音視頻媒體檢測。

      

   3. 勾選返回所有結果。

      

   4. 單擊儲存，儲存新配置的檢測規則。

      新配置的檢測規則約2~5分鐘生效。

為多個業務設定差異化的風險檢測策略

根據不同業務的需求，對同一個服務（service）進行複製並設定不同的風險檢測策略，以滿足業務差異化的審核需求。

1. 登入Alibaba Content Security Service控制台。

2. 在左側導覽列，選擇機器審核V2.0 > 視頻審核 > 規則配置。

3. 在規則管理頁面，對需要設定不同檢測範圍的服務（service）進行複製。

   1. 在service列表，單擊視頻檔案檢測服務（videoDetection_global）操作列复制按鈕。

   2. 在複製Service對話方塊，填寫服務名稱和服務備忘資訊。

   3. 單擊確定。建立成功之後，單擊新建立服務（videoDetection_global_01）操作列设置规则，根據業務需要調整規則配置。

      新服務（videoDetection_global_01）在建立成功後1~2分鐘即可調用。您可以複製出多個服務（service），通過對不同服務（service）的規則進行調整，滿足您差異化的風險檢測情境需求。

逐條查詢視頻檢測的詳細結果

對於檢測的視頻，支援根據taskId、dataId、service、畫面標籤、語音標籤、視頻風險查詢具體圖片的詳細檢測結果。

1. 登入Alibaba Content Security Service控制台。

2. 在左側導覽列，選擇機器審核V2.0 > 視頻審核 > 結果查詢。

3. 在結果查詢頁面，輸入查詢條件查詢檢測結果。

   如果希望搜尋所有畫面有命中標籤的記錄，則設定查詢條件為畫面標籤不等於nonLabel。支援同時設定多個標籤，使用半形逗號（,）分隔。

   說明

   預設按照時間由近及遠的順序展示，最多展示5萬條資料。Alibaba Content Security Service控制台提供近30天內的結果查詢，建議您對調用介面的每次返回做資料或日誌儲存，以便於更長時間周期的資料分析和統計。

   • 單擊目標結果操作列詳情，查看視頻審核的詳細資料。

   • 單擊目標結果操作列的音畫結果，查看視頻畫面和視頻語音的詳細審核結果。

     在畫面審核結果頁簽，為您展示每一幀的截圖以及每幀截圖命中的標籤資訊。

     

     在語音審核結果頁簽，為您展示語音轉文字結果和標籤命中資訊。

     

     說明

     僅當您在視頻審核設定中開啟視頻語音審核開關時才展示語音審核的結果。

統計近期視頻檢測量級

通過統計和查看近期視頻檢測量級，對具體視頻內容制定進一步的審核或治理措施。

1. 登入Alibaba Content Security Service控制台。

2. 在左側導覽列，選擇機器審核V2.0 > 視頻審核 > 用量統計。

3. 在用量統計頁面，選擇時間段查詢用量或匯出用量情況。

   • 查詢用量：支援按天和按月統計用量情況，統計資料儲存一年，支援查詢跨度為兩個月的資料。支援按照主帳號、子帳號、Service服務查詢。

     • 曲線圖統計視頻審核服務任務數（視頻個數）。

     • 柱狀圖統計畫面及Voice Messaging Service調用量（視頻截幀審核張數及視頻語音審核分鐘數）。

   • 匯出用量：單擊表徵圖，可以按天或者按月匯出用量情況。匯出的報表是Excel格式，只包含有調用量的資料。具體欄位說明如下：

     名稱	含義	單位
     帳號uid	匯出的帳號UID資訊。	無
     service	視頻審核service 視頻畫面審核service 視頻語音審核service	無
     用量	調用總量。	次
     日期	統計日期。	日/月

   • 查看視頻審核風險統計情況：顯示選擇時間段的高、中、低、無風險統計情況，風險趨勢以及風險分布情況。

     • 風險等級分布：顯示選擇時間段內的高風險、中風險、低風險、無風險的統計數量和佔比情況。

     • 風險趨勢統計：顯示選擇時間段內的按照天或者月維度風險走勢情況。

     • 風險分布統計：顯示視頻畫面和視頻語音的風險統計情況，可查看Top5的風險和所有的風險佔比情況。