ApsaraVideo Live は、動画、音声、スナップショットを分析して潜在的な違反を検出し、ライブストリームのコンプライアンスを自動的にチェックします。コンプライアンスに違反するコンテンツは Object Storage Service (OSS) に保存され、クエリや管理が可能です。
前提条件
背景情報
自動モデレーションサービスは、ディープラーニングを使用して、ライブストリームの音声と動画に含まれるポルノ、テロ、政治的にデリケートなコンテンツ、広告、ガベージコンテンツなどの禁止コンテンツを検出します。動画モデレーションはスナップショットを分析して違反を検出し、音声モデレーションは音声ストリーム内の禁止コンテンツを特定します。すべての違反は Webhook を介して報告されます。
モデレーションテンプレートの設定
コンソール
-
ApsaraVideo Live コンソールにログインします。
-
左側のナビゲーションウィンドウで、機能管理 > ライブストリームのモデレーション をクリックします。
-
設定するストリーミングドメインを選択し、ビデオコンテンツモデレーション または オーディオコンテンツモデレーション タブをクリックします。
-
追加 をクリックして、モデレーションテンプレートを設定します。
-
動画モデレーション
次の表に、動画モデレーションテンプレートのパラメーターを示します。
パラメーター
説明
アプリケーション名
テンプレートを有効にするには、指定したアプリケーション名がアップストリーミング URL のアプリケーション名と一致する必要があります。値は大文字と小文字を区別します。単一のアスタリスク (*) を指定して、すべてのアプリケーション名を一致させることもできます。
シナリオ
次の 4 つのシナリオがサポートされています:
-
ポルノ
-
テロ、政治的に敏感なコンテンツ
-
広告
-
スパムコンテンツ
スナップショット間隔
単位:秒。有効な値:5~3600。
格納場所
スナップショットを保存する OSS のストレージの場所を選択します。
-
-
音声モデレーション
次の表に、音声モデレーションテンプレートのパラメーターを示します。
パラメーター
説明
アプリケーション名
テンプレートを有効にするには、指定するアプリケーション名がアップストリーミング URL のアプリケーション名と一致している必要があります。値では大文字と小文字が区別されます。
ストリーム名
テンプレートを有効にするには、指定する ストリーム名 がアップストリーミング URL の ストリーム名 と一致する必要があります。値は大文字と小文字が区別されます。
-
-
パラメーターを設定した後、OK をクリックします。
API
-
動画モデレーション
API
リファレンス
AddLiveSnapshotDetectPornConfig
DeleteLiveSnapshotDetectPornConfig
UpdateLiveSnapshotDetectPornConfig
DescribeLiveSnapshotDetectPornConfig
-
音声モデレーション
API
リファレンス
AddLiveAudioAuditConfig
DeleteLiveAudioAuditConfig
UpdateLiveAudioAuditConfig
DescribeLiveAudioAuditConfig
Webhook アドレスの設定
コンソール
-
ビデオコンテンツモデレーション または オーディオコンテンツモデレーション タブで、コールバック URL を設定します。
[Webhook アドレス] の右側にある編集アイコンをクリックします。
-
コールバック URL を入力します。
-
Webhook サーバーでコールバック情報を確認します。コールバックメッセージのフォーマットと例については、「Webhook」をご参照ください。
-
OSS で検出されたコンテンツを検索します。
Webhook 情報に基づいて、OSS コンソールで指定されたコンテンツを検索します。
-
AppName と StreamName で指定されたコンテンツを検索します。
-
インジェスト日で指定されたコンテンツを検索します。
-
API
-
動画モデレーション
API
リファレンス
AddLiveDetectNotifyConfig
デフォルトのフォーマットについては、「動画モデレーションのデフォルト Webhook フォーマット」をご参照ください。
DeleteLiveDetectNotifyConfig
UpdateLiveDetectNotifyConfig
DescribeLiveDetectNotifyConfig
-
音声モデレーション
API
リファレンス
AddLiveAudioAuditNotifyConfig
Webhook の JSON フォーマットはカスタマイズできます。デフォルトのフォーマットについては、「音声モデレーションのデフォルト Webhook フォーマット」をご参照ください。
DeleteLiveAudioAuditNotifyConfig
UpdateLiveAudioAuditNotifyConfig
DescribeLiveAudioAuditNotifyConfig
Webhook フォーマット
動画レビューのデフォルト Webhook
Webhook 通知は、フラグが立てられた動画コンテンツに対してのみ送信されます。通知には、モデレーション結果と対応するスナップショットのストレージの場所が含まれます。
{
"DomainName": "example.com",
"AppName": "liveApp****",
"StreamName": "liveStream****",
"OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
"OssBucket": "liveBucket****",
"OssObject": "liveObject****.jpg",
"Result": [
{
"BizType": "example.com",
"Result": [
{"Label": "Porn", "Rate":11.1, "Suggestion": "review", "Scene":"porn", "Extent": {}},
{"Label": "Ad", "Rate":11.1, "Suggestion": "review", "Scene":"ad", "Extent": {}}
]
}
]
}
パラメーター
|
パラメーター |
タイプ |
説明 |
|
DomainName |
String |
ストリーミングドメイン。 |
|
AppName |
String |
アプリケーション名。 |
|
StreamName |
String |
ストリーム名。 |
|
OssEndpoint |
String |
保存されたオブジェクトの OSS エンドポイント。 |
|
OssBucket |
String |
オブジェクトが保存されている OSS バケット。 |
|
OssObject |
String |
オブジェクト名。 |
|
Result |
JSONArray |
検出結果。詳細については、「Result」をご参照ください。 |
表 1. Result
|
パラメーター |
タイプ |
説明 |
|
BizType |
String |
ビジネスタイプ。モデルの選択に使用されます。デフォルト値:ドメイン名。 |
|
Scene |
String |
検出シナリオ。
|
|
Label |
String |
検出された違反のカテゴリ。利用可能なカテゴリは検出シナリオによって異なります。詳細については、「Label」をご参照ください。 |
|
Rate |
Float |
信頼度スコア。0 (最低) から 100 (最高) のスケールで表されます。 説明
このスコアは参考用です。違反を判断するには、ビジネスロジックを |
|
Extent |
JSONObject |
予約済みのフィールド。 |
表 2. Label
|
パラメーター |
タイプ |
説明 |
|
porn |
String |
画像におけるポルノ検出のカテゴリ:
|
|
terrorism |
String |
画像におけるテロおよび政治的にデリケートなコンテンツの検出カテゴリ:
|
|
ad |
String |
広告検出のカテゴリ:
|
|
live |
String |
不適切なライブストリーミングシーンのカテゴリ:
|
|
logo |
String |
画像におけるロゴ検出のカテゴリ:
|
新規ユーザーはデフォルトでこのバージョンを使用しますが、既存のユーザーは現在のバージョンを継続して使用します。このバージョンに切り替えるには、チケットを送信してください。手順については、「お問い合わせ」をご参照ください。
音声レビューのデフォルト Webhook
Webhook 通知は、フラグが立てられた音声コンテンツに対してのみ送信されます。通知には、フラグが立てられたセグメントの文字起こしと、その直前の 1 分間のコンテキストが含まれます。
{
"domain": "example.com",
"app": "liveApp****",
"stream": "5d9747eba39b44769852d276f9ff****",
"timestamp": 1572248095,
"result": [
{
"scene": "antispam",
"label": "ad",
"suggestion": "block",
"rate": 99.91,
"details": [
{
"startTime": 1572248023,
"endTime": 1572248040,
"text": "ダーリー、ロンチュアンなどのホテルで 120 日間の無料宿泊をご利用いただけます。ご家族やご友人と一緒にご滞在ください。マンシーのトゥアンジエ通り 96 番、Yiyi KTV の隣にある雲棲 (Yunqi) コミュニティ国際ホテルのレセプションセンターにお越しください。ホットライン 2285699 までお電話ください。",
"label": "ad"
},
{
"startTime": 1572248040,
"endTime": 1572248070,
"text": "リャンフージンターとビンフーユエン観光タウンの第 2 期にあるクラシックなヴィラをお楽しみください。11 月 2 日にグランドオープン!天然温泉、多彩なクラシックデザイン、そして格別な価値をご提供します。オープン日には特別オファーをご用意しています。ランフー県ジェダオタウン、シエンフォンロード 229 番地でお待ちしております。電話番号は 069269557776955777 です。",
"label": "normal"
},
{
"startTime": 1572248072,
"endTime": 1572248077,
"text": "あなたといると、幸せな時間はもっと素敵になる。リラックスした日々が、さらに心地よく感じられる。",
"label": "normal"
},
{
"startTime": 1572248078,
"endTime": 1572248086,
"text": "fme043 忙しい日常から離れて、音楽で一息つきませんか。あなたが恋しく思う映画館に、心温まる歌を。",
"label": "normal"
}
]
}
]
}
|
パラメーター |
タイプ |
説明 |
|
domain |
String |
ストリーミングドメイン。 |
|
app |
String |
アプリケーション名。 |
|
stream |
String |
ストリーム名。 |
|
timestamp |
Int |
Webhook の UNIX タイムスタンプ (秒単位)。 |
|
result |
JSONArray |
検出結果。詳細については、「Result」をご参照ください。 |
表 3. Result
|
パラメーター |
タイプ |
説明 |
|
scene |
String |
検出シナリオ。 |
|
label |
String |
検出された違反のカテゴリ。有効な値:
|
|
suggestion |
String |
推奨アクション。
|
|
rate |
Float |
信頼度スコア。0 (最低) から 100 (最高) のスケールで表されます。 説明
このスコアは参考用です。違反を判断するには、ビジネスロジックを |
|
details |
JSONArray |
オブジェクトの配列。各オブジェクトは、音声から文字起こしされた文を表します。オブジェクトの構造については、「Detail」をご参照ください。 |
表 4. Detail
|
パラメーター |
タイプ |
説明 |
|
startTime |
Int |
文の開始時刻 (UNIX タイムスタンプ、秒単位)。 |
|
endTime |
Int |
文の終了時刻 (UNIX タイムスタンプ、秒単位)。 |
|
text |
String |
音声セグメントの文字起こし。 |
|
label |
String |
検出された違反のカテゴリ。有効な値:
|
よくある質問
カスタムの禁止用語
いいえ。自動レビューサービスは、カスタムの禁止用語をサポートしていません。
認証済みのサードパーティーストリーム
いいえ。自動レビューサービスは、他のプラットフォームからのストリーム URL の取り込みをサポートしていません。