AI Guardrails：基於大模型的語音審核服務

服務概覽

語音審核大模型針對語音情境的內容風險特性，定製訓練千問審核大模型，提供以下服務：

• 音视频媒体检测_大模型版：

  基於通義大模型檢測語音檔案中的違規風險，支援中文、英語、日語、德語、韓語、俄語、法語、葡萄牙語、阿拉伯語、意大利語、西班牙語、印地語、印尼語、泰語、土耳其語、烏克蘭語、越南語、捷克語、丹麥語、菲律賓語、芬蘭語、冰島語、馬來語、挪威語、波蘭語、瑞典語等26種語種，適用於檔案上傳、批量審核情境。

• 社交娱乐直播检测_大模型版：

  基於通義大模型即時檢測直播流語音中的違規風險，支援中文、英語、日語、德語、韓語、俄語、法語、葡萄牙語、阿拉伯語、意大利語、西班牙語、印地語、印尼語、泰語、土耳其語、烏克蘭語、越南語、捷克語、丹麥語、菲律賓語、芬蘭語、冰島語、馬來語、挪威語、波蘭語、瑞典語等26種語種，適用於即時資料流審核、低延遲檢測情境。

服務選型

計費說明

語音審核大模型服務支援付費方式。

按量後付費

開通語音審核2.0版服務後，預設按量後付費，按實際用量結算當日費用，不調用服務不收費。

接入指南

步驟一：開通服務

訪問開通服務，開通語音審核2.0版服務。

開通語音審核2.0版服務後，預設付費方式是按量後付費，且按照實際用量結算當日費用，不調用服務不收費。介面接入使用後系統會按使用量自動出賬，具體資訊，請參見計費說明。也可購買按量抵扣資源套件，資源套件相較於後付費存在一定階梯折扣，適合使用量級可預期和較大的使用者。

步驟二：為RAM使用者授權

接入SDK或API前，需要為RAM使用者授權。為阿里雲帳號和RAM使用者建立存取金鑰（AccessKey），調用API時使用AccessKey完成身分識別驗證。擷取方式，請參見擷取AccessKey。

1. 使用阿里雲帳號（主帳號）或Resource Access Management員登入RAM控制台。

2. 建立RAM使用者。具體操作，請參見建立RAM使用者。

3. 向RAM使用者授權系統策略許可權：AliyunYundunGreenWebFullAccess。具體操作，請參見管理RAM使用者的許可權。完成以上配置後，可以使用RAM使用者調用Alibaba Content Security ServiceAPI。

授權完成後，使用RAM使用者的AccessKey調用一次API，返回正常響應即表示授權成功。

步驟三：安裝並接入SDK

請參考語音審核增強版2.0版SDK及接入指南，目前支援的接入地區如下：

步驟四：調整語音審核的規則（可選）

可在Alibaba Content Security Service控制台調整語音審核大模型的檢測規則，包括文本審核規則、複製service、配置自訂詞庫、查詢檢測記錄、查詢用量等。

規則調整完成後，提交一個測試審核任務，在控制台的檢測記錄中確認新規則已生效。

API介面

使用說明

調用該介面建立語音內容檢測任務。關於如何構造HTTP請求，請參見HTTP原生調用；也可直接選用已構造好的HTTP請求，更多資訊，請參見語音審核增強版2.0版SDK及接入指南。

• 業務介面：

  • 提交審核任務：VoiceModeration

  • 查詢審核任務：VoiceModerationResult

  • 取消審核任務：VoiceModerationCancel

• 計費資訊：

  該介面為收費介面。僅對HTTP狀態代碼為200的請求進行計量計費，產生其他錯誤碼時不會計費。關於計費方式，請參見計費說明。

• 服務效能：

  服務效能	說明
  音頻檔案大小	增強版支援音頻檔案的大小限制為500 MB。
  音頻檔案格式	支援音頻檔案格式：MP3、WAV、AAC、WMA、OGG、M4A、AMR。 可使用視訊檔案格式：AVI、FLV、MP4、MPG、ASF、WMV、MOV、RMVB、RM。
  音頻直播流	支援以下協議：RTMP、HLS、HTTP-FLV、RTSP。
  請求頻率（QPS）	提交工作要求頻率（QPS）為100次/秒。
  並發路數	增強版支援的預設並發路數限制為50路。

提交審核任務

請求參數

返回參數

樣本

• 請求樣本

{
    "Service": "audio_detection_byllm_global",
    "ServiceParameters": {
        "cryptType": "SHA256",
        "seed": "abc***123",
        "callback": "https://aliyun.com/callback",
        "url": "http://aliyundoc.com/test.mp3"
    }
}

• 正常返回樣本

{
    "Code": 200,
    "Data": {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "voice20240307***"
    },
    "Message": "SUCCESS",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

查詢任務結果

直播類型審核任務過程中，查詢結果會返回最近N條語音片段資料。任務審核完成後，查詢結果會返回全部語音片段資料。

• 查詢審核任務：VoiceModerationResult。

• 計費資訊：該介面不計費。

• 查詢逾時：建議將查詢間隔設定為30秒（即在提交非同步檢測任務30秒後查詢結果），最長不能超過24小時，否則結果將會自動刪除。

返回參數

樣本

請求樣本

{
    "Service": "audio_detection_byllm",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

正常返回樣本

{
    "Code": 200,
    "Data": {
        "DataId": "voice20240307***",
        "LiveId": "liveId1****",
        "RiskLevel": "high",
        "SliceDetails": [
            {
                "StartTime": 0,
                "EndTime": 4065,
                "RiskLevel": "high",
                "Result": [
                    {
                        "Label": "political_entity",
                        "Description": "疑似政治實體",
                        "Confidence": 100.0,
                        "RiskLevel": "high",
                        "RiskWords": "詞A,詞B",
                        "RiskPositions": [
                            {
                                "EndPos": 14,
                                "RiskWord": "詞A",
                                "StartPos": 16
                            }
                        ]
                    }
                ],
                "Text": "Alibaba Content Security Service產品測試案例",
                "Url": "https://aliyundoc.com"
            }
        ]
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

取消審核任務

僅直播流的審核任務支援取消，檔案類型的任務不支援取消。

• 取消審核任務：VoiceModerationCancel。

• 計費資訊：該介面不計費。

請求參數

返回參數

樣本

• 請求樣本

{
    "Service": "live_detection_byllm_global",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

• 正常返回參數

{
    "Code": 200,
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

回調訊息格式

Code說明

以下為介面返回code的含義說明，系統僅對code返回為200的請求計量計費，其他code不會計費。