配置直播審核與回調以檢測違規內容-ApsaraVideo for Live-阿里雲 - ApsaraVideo Live

前提條件

目前僅部分直播中心支援直播智能審核，具體支援該功能的直播中心，請參見服務地區。
視頻審核與語音審核均為付費服務，請您確保在使用前已充分瞭解智能審核服務的收費方式和價格。詳細費用請參見智能審核費用。
視頻截圖儲存在OSS中，會產生儲存費用，在OSS中計費。詳細費用請參見儲存費用。

背景資訊

智能審核服務基于海量標註資料和深度學習演算法，從語音、視覺等多維度精準識別直播流中的違禁內容。支援涉黃、暴恐、涉政、廣告等多種違規內容的檢測，同時涵蓋無意義直播和音頻審核功能，有效降低違規風險並減少人工審核成本。其中，視頻審核通過截幀畫面檢測直播內容是否違規，語音審核則識別音頻流內容是否存在違規行為，所有違規內容將通過回調方式通知使用者進行處理。

組態稽核模板

控制台操作指引

登入ApsaraVideo for Live控制台。
在左側導覽列單擊功能管理>直播審核，進入直播審核頁面。
選擇您要配置的播流網域名稱，單擊視頻審核或者語音審核頁簽。

單擊添加，組態稽核模板。

視頻審核

審核模板參數及說明如下表所示。

參數	描述
AppName	視頻的應用程式名稱，輸入的AppName必須與直播推流的AppName保持一致，方可生效。也支援取值為單個星號（*）字元，即可匹配所有AppName。
審核情境	目前支援審核以下四種情境。涉黃暴恐涉政廣告無意義直播
截圖頻率	截圖頻率，單位：秒，取值範圍：5~3600。
儲存位置	選擇截圖檔案在OSS上的儲存位置。

語音審核

審核模板參數及說明如下表所示。

參數	描述
AppName	視頻的應用程式名稱，輸入的AppName必須與直播推流地址中的AppName名稱保持一致，模板方可生效。區分大小寫。
StreamName	輸入的StreamName必須與直播推流地址中的StreamName名稱保持一致，模板方可生效。區分大小寫。

配置參數後，單擊確定。

API操作指引

視頻審核

介面	參考文檔
AddLiveSnapshotDetectPornConfig	按照網域名稱和App層級配置直播流審核服務
DeleteLiveSnapshotDetectPornConfig	刪除直播視頻審核配置
UpdateLiveSnapshotDetectPornConfig	更新直播視頻審核配置
DescribeLiveSnapshotDetectPornConfig	查詢直播視頻審核配置

語音審核

介面	參考文檔
AddLiveAudioAuditConfig	添加直播語音審核配置
DeleteLiveAudioAuditConfig	刪除直播語音審核配置
UpdateLiveAudioAuditConfig	更新直播語音審核配置
DescribeLiveSnapshotDetectPornConfig	查詢直播語音審核配置

配置回調地址

控制台操作指引

在視頻審核或者語音審核頁簽下，設定回調地址。

單擊回調地址右側的編輯表徵圖。
輸入回調地址。
在您的回調伺服器中查看回調資訊。回調資訊的格式與樣本，請參見事件回調。
在OSS中尋找識別的內容。
您可以根據審核回調資訊，在OSS控制台尋找指定的審核內容。
- 根據AppName與StreamName尋找指定的審核內容。
- 根據推流日期尋找指定的審核內容。

API操作指引

視頻審核

介面	參考文檔
AddLiveDetectNotifyConfig	添加直播視頻審核回調配置預設格式請參見視頻審核預設回調格式說明。
DeleteLiveDetectNotifyConfig	刪除直播視頻審核回調配置
UpdateLiveDetectNotifyConfig	更新直播視頻審核回調配置
DescribeLiveAudioAuditNotifyConfig	查詢直播視頻審核回調配置

語音審核

介面	參考文檔
AddLiveAudioAuditNotifyConfig	添加直播語音審核回調配置使用者可以根據自己需求自訂回調JSON格式。預設格式請參見語音審核預設回調格式說明。
DeleteLiveAudioAuditNotifyConfig	刪除直播語音審核回調配置
UpdateLiveAudioAuditNotifyConfig	更新直播語音審核回調配置
DescribeLiveAudioAuditNotifyConfig	查詢直播語音審核回調配置

回調格式說明

視頻審核預設回調格式說明

只會對有問題的視頻內容進行回調通知，通知內容包含問題視頻截圖的審核資訊和儲存資訊。

{
 "DomainName": "example.com",
 "AppName": "liveApp****",
 "StreamName": "liveStream****",
 "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
 "OssBucket": "liveBucket****",
 "OssObject": "liveObject****.jpg",
 "Result": [
     {
         "BizType": "example.com",
         "Result": [
             {"Label": "Porn", "Rate":11.1, "Suggestion": "review", "Scene":"porn", "Extent": {}},
             {"Label": "Ad", "Rate":11.1, "Suggestion": "review", "Scene":"ad", "Extent": {}}
         ]
     }
 ]
}

參數說明

參數	類型	描述
DomainName	String	播流網域名稱。
AppName	String	應用程式名稱。
StreamName	String	流名稱。
OssEndpoint	String	儲存物件Endpoint。
OssBucket	String	儲存物件的Bucket。
OssObject	String	儲存物件的檔案名稱。
Result	JSONArray	檢測結果。請參見Result。

表 1. Result

參數	類型	描述
BizType	String	業務類型。可用於選擇模型，預設值為網域名稱。
Scene	String	檢測情境 porn：鑒黃。 terrorism：暴恐涉政。 ad：圖文違規。 live：不良情境。 logo：圖片logo。
Label	String	檢測結果的分類。不同檢測情境的結果分類不同。詳細參數，請參見Label。
Rate	Float	信賴度分數。取值範圍：0（表示信賴度最低）~100（表示信賴度最高）。說明該值僅作為參考，強烈建議您不要在業務中使用。建議您參考Label結果用於內容違規判定。
Extent	JSONObject	預留欄位。

表 2. Label

參數	類型	描述
porn	String	圖片智能鑒黃結果分類： normal：正常。 sexy：性感。 porn：色情。
terrorism	String	圖片暴恐涉政結果分類： normal：正常。 bloody：血腥。 explosion：爆炸煙光。 outfit：特殊裝束。 logo：特殊標識。 weapon：武器。 politics：涉政。 violence ：打鬥。 crowd：聚眾。 parade：遊行。 carcrash：車禍現場。 flag：旗幟。 location：地標。 others：其他。
ad	String	圖文違規結果分類： normal：正常。 ad：其他廣告。 npx：牛皮癬廣告。 qrcode：含二維碼。 programCode：含小程式碼。
live	String	不良情境結果分類： normal：正常。 meaningless：圖片中無內容（例如，黑屏、白屏）。 PIP：畫中畫。 smoking：吸煙。 drivelive：車內直播。
logo	String	圖片logo結果分類： normal：正常。 TV：含受管控的logo。 trademark：含商標。

說明

預設新使用者將使用此版本，老使用者維持不變，如需使用此版本，請您提交工單。關於如何提交工單，請參見聯絡我們。

語音審核預設回調格式說明

只會對有問題的音頻內容進行回調通知，通知內容包含問題語音的文本資訊以及最近一分鐘內的上下文資訊。

{
    "domain": "example.com",
    "app": "liveApp****",
    "stream": "5d9747eba39b44769852d276f9ff****",
    "timestamp": 1572248095,
    "result": [
        {
            "scene": "antispam",
            "label": "ad",
            "suggestion": "block",
            "rate": 99.91,
            "details": [
                {
                    "startTime": 1572248023,
                    "endTime": 1572248040,
                    "text": "大理隴川等酒店免費居住權120天居住權可與親友共用來雲棲社國際燒酒店接待中心地址芒市團結大街96號一一ktv旁諮詢熱線2285699",
                    "label": "ad"
                },
                {
                    "startTime": 1572248040,
                    "endTime": 1572248070,
                    "text": "典藏經典別墅尊享梁河金塔、旅遊小鎮二期濱湖苑地區11月2號盛大開盤天然龍窩、泉水入戶戶型多樣，設計經典價位超值，值得您擁有開盤當天還有超值優惠，歡迎您前來品鑒，憑藉地址，然和縣遮島鎮先鋒路229號分享熱線069269557776955777",
                    "label": "normal"
                },
                {
                    "startTime": 1572248072,
                    "endTime": 1572248077,
                    "text": "快樂的時光，有你相伴愜意的日子，格外輕鬆。",
                    "label": "normal"
                },
                {
                    "startTime": 1572248078,
                    "endTime": 1572248086,
                    "text": "fme043忙裡偷閒音樂時光有歌曲溫暖，有你想念影院。",
                    "label": "normal"
                }
            ]
        }
    ]
}

參數	類型	描述
domain	String	播流網域名稱。
app	String	應用程式名稱。
stream	String	流名稱。
timestamp	Int	回調時間戳記。單位：秒。
result	JSONArray	檢測結果。請參見Result。

表 2. Result

參數	類型	描述
scene	String	檢測情境。
label	String	檢測結果的分類。取值： normal：正常文本 spam：含垃圾資訊 ad：廣告 politics：涉政 terrorism：暴恐 abuse：辱罵 porn：色情 flood：灌水 contraband：違禁 meaningless：無意義 customized：自訂（例如命中自訂關鍵詞）
suggestion	String	處理建議。取值： pass：結果正常，無需進行其餘操作。 review：結果不確定，需要進行人工審核。 block：結果違規，建議直接刪除或者限制公開。
rate	Float	信賴度分數。取值範圍：0（表示信賴度最低）~100（表示信賴度最高）。說明該值僅作為參考，強烈建議您不要在業務中使用。建議您參考Label結果用於內容違規判定。
details	JSONArray	語音對應的文本詳情，每一句文本對應一個元素，可以包含一個或者多個元素。關於每個元素的結構描述，請參見Detail。

表 3. Detail

參數	類型	描述
startTime	Int	句子開始的時間戳記，單位：秒。
endTime	Int	句子結束的時間戳記，單位：秒。
text	String	問題語音轉換成文本的結果。
label	String	檢測結果的分類。取值： normal：正常文本 spam：含垃圾資訊 ad：廣告 politics：涉政 terrorism：暴恐 abuse：辱罵 porn：色情 flood：灌水 contraband：違禁 meaningless：無意義 customized：自訂（例如命中自訂關鍵詞）

常見問題

直播審核服務支援自訂敏感詞嗎？

您好，暫不支援自行添加敏感詞。

直播審核服務，是否支援其他平台帶鑒權參數的直播流地址？

直播審核功能不支援其它平台的直播流地址。