すべてのプロダクト
Search
ドキュメントセンター

Content Moderation:Live Stream Moderation 2.0 API

最終更新日:Jan 08, 2025

Live Stream Moderation 2.0 API を呼び出して、ライブストリーム内の画像や音声のリスクのあるコンテンツを識別できます。このトピックでは、Live Stream Moderation 2.0 API を呼び出してライブストリームをモデレートする方法について説明します。

使用方法

  1. Alibaba Cloudアカウントを作成します: アカウント登録 をクリックし、指示に従ってAlibaba Cloudアカウントを作成します。

  2. 従量課金制のコンテンツモデレーションを有効化します。 Content Moderation 2.0 サービスが有効になっていることを確認します。このサービスの有効化は無料です。API操作を呼び出した後、課金システムは使用量に基づいて自動的に課金します。詳細については、課金方法をご参照ください。

  3. AccessKey ペアを作成します。Resource Access Management (RAM) ユーザーとして AccessKey ペアを作成済みであることを確認します。詳細については、AccessKey ペアの作成をご参照ください。RAM ユーザーの AccessKey ペアを使用する場合は、Alibaba Cloud アカウントを使用して、AliyunYundunGreenWebFullAccess 権限を RAM ユーザーに付与します。詳細については、RAM ユーザーへの権限の付与をご参照ください。

  4. SDK の使用: API オペレーションを呼び出すには、SDK を使用することをお勧めします。詳細については、「」をご参照ください。ビデオモデレーション 2.0 使用ガイド

  5. ライブストリームモデレーションサービスは、次の 3 つの API 操作を提供します:

    • VideoModeration: ライブストリームモデレーションタスクを送信するため

    • VideoModerationResult: ライブストリームモデレーションタスクのモデレーション結果を取得するため

    • VideoModerationCancel: ライブストリームモデレーションタスクをキャンセルするため

モデレーション タスクの送信

使用方法

  • 操作: VideoModeration (非同期モデレーション専用)

  • サポートされているリージョンとエンドポイント

    リージョン

    パブリックエンドポイント

    内部エンドポイント

    対応サービス

    Singapore

    green-cip.ap-southeast-1.aliyuncs.com

    green-cip-vpc.ap-southeast-1.aliyuncs.com

    liveStreamDetection_global

  • 課金方法

    この操作の呼び出しには料金が発生します。課金システムは、ライブストリームに設定した画像モデレーションポリシーと音声モデレーションポリシーに基づいて課金します。ライブストリーム内の画像をモデレートするために複数のモデレーションサービスが呼び出された場合、キャプチャされたフレーム数に各モデレーションサービスの単価を掛けた金額に基づいて料金が累積されます。ライブストリームの音声コンテンツ違反についても同時にモデレートされる場合、ビデオの長さに音声モデレーションの単価を掛けた金額も課金されます。課金方法の詳細については、課金方法をご参照ください。

  • モデレーション対象: ライブストリーム

  • 返される結果: 非同期モデレーションリクエストを送信した場合、モデレーション結果はリアルタイムで返されません。モデレーション結果を取得するには、モデレーション結果を定期的にポーリングするか、コールバック通知を有効にすることができます。モデレーション結果は最大 24 時間保持されます。

    • コールバック通知を有効にしてモデレーション結果を取得する: 非同期モデレーションタスクを送信するときに、モデレーションリクエストの パラメーターでモデレーション結果を受信するためのコールバック URL を指定できます。コールバック モデレーションリクエストのパラメーター。

    • 投票モデレーションの結果: コールバック非同期モデレーションタスクを送信するときにパラメーター。タスクを送信した後、結果クエリ操作を呼び出してモデレーション結果をクエリできます。

  • ライブストリームの制限

    • 次のプロトコルに準拠するライブストリームがサポートされています: RTMP、HLS、HTTP-FLV、および RTSP。

    • ライブストリームの長さの制限: モデレートできる 1 つのライブストリームの最大の長さは 24 時間です。長さが 24時間を超えると、モデレーションタスクは自動的に終了します。

  • モデレーションルール設定

    • 初めてライブストリームモデレーション API を呼び出す前に、コンテンツモデレーションコンソールでライブストリームモデレーションルールを設定する必要があります。

    • ライブストリームモデレーションルールを設定しない場合、ライブストリームモデレーション 2.0 API は、次のデフォルト設定を使用します。

      ライブストリーム モデレーション(liveStreamDetection_global)

      • フレームをキャプチャする頻度:1秒/フレーム

      • 画像モデレーション サービス:共通ベースライン モデレーション(baselineCheck_global)

      • 音声モデレーション:有効

      • 音声モデレーション サービス:音声モデレーション(live_stream_detection_global)

      • 返される結果:リスクのあるコンテンツのみが返されます。

QPS 制限

この操作は、アカウントごとに 1 秒あたり最大 100 回呼び出すことができます。同時に処理できるモデレーションタスクは 件のみです。同時実行モデレーションタスクの数を増やす必要がある場合は、ビジネス マネージャーにご相談ください。1 秒あたりの呼び出し数が制限を超えると、スロットリングがトリガーされます。その結果、ビジネスに影響が出る可能性があります。この操作を呼び出すときは、制限に注意することをお勧めします。50 モデレーションタスクは一度に処理できます。同時実行モデレーションタスクの数を増やす必要がある場合は、ビジネス マネージャーにご相談ください。1 秒あたりの呼び出し数が制限を超えると、スロットリングがトリガーされます。その結果、ビジネスに影響が生じる可能性があります。この操作を呼び出すときは、制限に注意することをお勧めします。

デバッグ

SDK をデプロイする前に、Alibaba Cloud OpenAPI Explorerを使用して、VideoModeration操作をオンラインでデバッグし、呼び出しと SDK の依存関係のサンプルコードを確認できます。これにより、操作の呼び出し方法と関連パラメーターの設定方法を理解できます。

重要

コンテンツモデレーション API を呼び出す前に、Alibaba Cloud アカウントを使用してコンテンツモデレーションコンソールにログオンする必要があります。そのため、操作の呼び出しによって発生した料金は、アカウントに課金されます。

リクエスト パラメーター

パラメーター

タイプ

必須

説明

サービス

String

はい

liveStreamDetection_global

モデレーションサービスのタイプ。有効な値:

  • liveStreamDetection_global: ライブストリーム モデレーション

ServiceParameters

JSONString

はい

モデレーション サービスに必要なパラメーター。値は JSON 文字列です。各文字列の説明については、表 1 ServiceParameters をご参照ください。

表 1 ServiceParameters

パラメーター

タイプ

必須

説明

url

String

はい

http://www.aliyundoc.com/a.flv

モデレートするオブジェクトの URL です。 URL がインターネット経由でアクセス可能であり、URL の長さが 2,048 文字を超えないことを確認してください。

説明

URL に漢字を含めることはできません。各リクエストで 1 つの URL のみ指定してください。

callback

String

いいえ

http://www.aliyundoc.com

非同期モデレーション結果を通知するためのコールバック URL です。HTTP および HTTPS URL がサポートされています。このパラメーターを設定しない場合は、モデレーション結果を定期的にポーリングする必要があります。

モデレーションリクエストで callback パラメーターを設定する場合は、指定された HTTP または HTTPS URL が次の要件を満たしていることを確認してください。POST メソッドをサポートしていること、送信データのエンコードに UTF-8 を使用していること、 パラメーターと パラメーターをサポートしていることです。チェックサム および コンテンツ パラメーター。

指定されたコールバック URL にモデレーション結果を送信するために、コンテンツモデレーションは、次のルールと形式に基づいて、コールバック通知で チェックサムコンテンツ パラメーターを返します。

  • チェックサム: セキュアハッシュアルゴリズム 256(SHA-256)アルゴリズムによって生成される、UID + seed + content 形式の文字列です。UID は Alibaba Cloud アカウントの ID を示します。ID は Alibaba Cloud 管理コンソールで確認できます。 データの改ざんを防ぐために、サーバーがコールバック通知を受信したときに SHA-256 アルゴリズムを使用して文字列を生成し、受信した チェックサム パラメーターと照合して検証できます。

    説明

    UID は、RAM ユーザーの ID ではなく、Alibaba Cloud アカウントのユーザー ID である必要があります。

  • content: JSON 形式の文字列です。文字列を JSON オブジェクトに変換できます。 パラメーターの形式の詳細については、モデレーション結果を照会するために呼び出すことができる各操作の成功応答の例を参照してください。コンテンツ パラメーターについては、モデレーション結果を照会するために呼び出すことができる各操作のサンプル成功レスポンスを参照してください。

説明

サーバーがコールバック通知を受信した場合、サーバーは Content Moderation に HTTP 200 ステータスコードを送信します。サーバーがコールバック通知の受信に失敗した場合、サーバーは Content Moderation に他の HTTP ステータスコードを送信します。サーバーがコールバック通知の受信に失敗した場合、Content Moderation はサーバーが受信するまでコールバック通知のプッシュを続けます。Content Moderation は、コールバック通知を最大 16 回まで繰り返しプッシュできます。16 回後、Content Moderation はコールバック通知のプッシュを停止します。この場合、コールバック URL のステータスを確認することをお勧めします。

seed

String

いいえ

abc****

コールバック通知リクエストの署名を生成するために使用されるランダムな文字列です。

文字列は最大 64 文字で、文字、数字、アンダースコア(_) を含めることができます。この文字列はカスタマイズできます。Content Moderation がサーバーにコールバック通知をプッシュするときに、コールバック通知リクエストを検証するために使用されます。

説明

callback パラメーターを設定する場合は、このパラメーターが必要です。

cryptType

String

いいえ

SHA256

コールバック通知を有効にしたときにコールバック通知コンテンツの署名に使用するアルゴリズム。コンテンツモデレーションは、指定したアルゴリズムを使用して返された文字列に署名し、署名付き文字列をコールバック URL に送信します。返される文字列は、UID + シード + コンテンツ 形式です。有効な値:

  • SHA256 (デフォルト): HMAC-SHA256 暗号化アルゴリズムが使用されます。

  • SM3: HMAC-SM3 暗号化アルゴリズムが使用され、16 進数の文字列が返されます。文字列は小文字と数字で構成されます。

    たとえば、HMAC-SM3 暗号化アルゴリズムを使用して abc を暗号化すると、66c7f0f462eeedd9d1f2d46bdc10e4e24167c4875cf2f7a2297da02b8f4ba8e0 が返されます。

dataId

String

いいえ

videoId****

モデレートされたオブジェクトの ID です。

ID には、文字、数字、アンダースコア(_)、ハイフン(-)、ピリオド(.) を含めることができます。最大 128 文字まで使用できます。この ID は、ビジネスデータを一意に識別します。

liveId

String

いいえ

liveId****

ライブストリームの ID です。

このパラメーターは、ライブストリームの重複モデレーションを回避するために使用されます。このパラメーターを指定すると、コンテンツモデレーションは、Alibaba Cloudアカウントの ID、モデレーションサービス、および liveId パラメーターに基づいて、指定されたライブストリームのモデレーションタスクが進行中かどうかを確認します。モデレーションタスクが進行中の場合、タスクの taskId が返され、新しいタスクは開始されません。

説明

サーバーがコールバック通知を正常に受信した場合、サーバーは Content Moderation に HTTP 200 ステータスコードを送信します。サーバーがコールバック通知の受信に失敗した場合、サーバーは Content Moderation に他の HTTP ステータスコードを送信します。サーバーがコールバック通知の受信に失敗した場合、Content Moderation はサーバーが受信するまでコールバック通知をプッシュし続けます。Content Moderation は、コールバック通知を最大 16 回まで繰り返しプッシュできます。16 回を超えると、Content Moderation はコールバック通知のプッシュを停止します。この場合、コールバック URL のステータスを確認することをお勧めします。

レスポンスパラメーター

パラメーター

タイプ

説明

コード

整数

200

HTTP ステータスコード。詳細については、「レスポンスコード」をご参照ください。

データ

JSONObject

{"TaskId": "AAAAA-BBBBB"}

モデレーション結果。

メッセージ

文字列

OK

リクエストに応じて返されるメッセージ。

リクエスト ID

文字列

ABCD1234-1234-1234-1234-123****

リクエスト ID。

サンプルリクエスト

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****",
        "liveId": "liveId****"
    }
}

正常なレスポンスの例

{
    "Msg": "OK",
    "Code": 200,
    "Data":
    {
        "TaskId": "AAAAA-BBBBB"
        "DataId": "videoId****"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

ライブストリーム モデレーション タスクのモデレーション結果を取得する

使用方法

  • 操作: VideoModerationResult

  • 課金: この操作は無料です。

  • 応答タイムアウト: 非同期モデレーションリクエストを送信してから少なくとも 30 秒後にモデレーション結果を照会することをお勧めします。コンテンツモデレーションは、最大 24 時間 モデレーション結果を保持します。24 時間後、結果は削除されます。

  • 返される結果: ライブストリームが進行中の場合、クエリごとに最新の 10 件のモデレーション結果が返されます。ライブストリームが終了した場合、すべてのモデレーション結果が返されます。

QPS 制限

この操作は、アカウントごとに 1 秒あたり最大 100 回呼び出すことができます。1 秒あたりの呼び出し数が制限を超えると、スロットリングがトリガーされます。その結果、ビジネスに影響が出る可能性があります。この操作を呼び出すときは、制限に注意することをお勧めします。

デバッグ

SDK をデプロイする前に、Alibaba Cloud OpenAPI Explorer を使用して、VideoModerationResult オペレーションをオンラインでデバッグし、呼び出しと SDK の依存関係のサンプルコードを確認できます。これにより、オペレーションの呼び出し方法と関連パラメーターの設定方法を理解できます。

リクエスト パラメーター

パラメーター

タイプ

必須

説明

サービス

文字列

はい

liveStreamDetection_global

モデレーションサービスのタイプ。送信されたモデレーションタスクのモデレーションサービスのタイプと同じである必要があります。

ServiceParameters

JSON 文字列

はい

モデレーション サービスに必要なパラメーターです。値は JSON 文字列です。各文字列の説明については、表 1 ServiceParameters をご参照ください。

表 1 ServiceParameters

パラメーター

タイプ

必須

説明

taskId

string

はい

abcd****

クエリを実行するモデレーションタスクの ID です。一度に 1 つのタスク ID を入力できます。

説明

モデレーションタスクを送信した後、レスポンスからタスクの ID を取得できます。

レスポンスパラメーター

パラメーター

タイプ

説明

RequestId

String

ABCD1234-1234-1234-1234-123****

リクエスト ID。問題の特定とトラブルシューティングに使用されます。

Data

Object

ライブストリームのモデレーション結果です。詳細については、表 2 Data をご参照ください。

Code

String

200

HTTP ステータスコードです。詳細については、レスポンスコード をご参照ください。

Message

String

OK

レスポンスで返されるメッセージです。

表 2 データ

パラメーター

タイプ

説明

DataId

String

videoId****

モデレート対象の ID です。

説明

リクエストで dataId パラメーターを指定した場合、レスポンスで dataId パラメーターの値が返されます。

LiveId

String

liveId****

モデレート対象に対応するライブストリーム ID です。

説明

リクエストで liveId パラメーターを指定した場合、レスポンスで liveId パラメーターの値が返されます。

TaskId

String

AAAAA-BBBBB

モデレート対象に対応するタスク ID です。

RiskLevel

String

high

ライブストリームのリスクレベルです。リスクレベルは、ビデオ画像とビデオ内の音声の両方に対する総合的な評価に基づいて決定されます。戻り値には以下が含まれます。

  • high: 高リスク

  • medium: 中リスク

  • low: 低リスク

  • none: リスクなし

説明

リスクが高いとフラグが付けられたコンテンツについては、直ちに処理アクションを実行することをお勧めします。 中リスクのコンテンツについては、手動でのレビューをお勧めします。 低リスクのコンテンツは、高い再現率が求められる場合に処理できます。 それ以外の場合は、日常業務でリスクが検出されていないコンテンツと同様に処理できます。 ビデオ画像のリスクスコアは、ビデオモデレーションプラスで設定できます。

FrameResult

JSONObject

画像モデレーションの結果です。呼び出しが成功した場合、HTTPステータスコード 200 とモデレーション結果が返されます。モデレーション結果には構造体が含まれています。構造体の詳細については、表 3 FrameResultをご参照ください。

説明

ライブストリームをモデレートするシナリオでは、HTTP ステータスコード 280 はモデレーションタスクが進行中であることを示し、HTTP ステータスコード 200 はモデレーションタスクが完了したことを示します。モデレーションタスクが進行中の場合、返されるモデレーション結果には、コンテンツモデレーションがタスクで検出したすべての問題が含まれます。

AudioResult

JSONObject

音声モデレーションの結果です。モデレーション結果は構造体を含みます。構造体の詳細については、表 8 audioResult をご参照ください。

表 3 FrameResult

パラメーター

タイプ

説明

FrameNum

Integer

200

ライブストリームに対して返されるキャプチャされたフレームの数。

FrameSummarys

JSONArray

キャプチャされたフレームが照合されるライブストリームのラベルの概要。詳細については、「」をご参照ください。表 4 FrameSummarys

RiskLevel

String

high

ライブストリームの画面のリスクレベル。リスクレベルは、ライブストリーム中のすべてのキャプチャされたフレームの分析に基づいて計算および返却されます。戻り値は次のとおりです。

  • high: 高リスク

  • medium: 中リスク

  • low: 低リスク

  • none: リスクなし

Frames

JSONArray

ラベルに一致するフレームに関する情報。詳細については、「」をご参照ください。表 5 フレーム

表 4 FrameSummarys

パラメーター

種類

説明

ラベル

文字列

violent_armedForces

キャプチャされたフレームが照合されるラベル。

説明

文字列

Suspected content about smoke or fire is contained.

ラベル フィールドの説明。

説明

このフィールドは、ラベル フィールドの説明です。変更および調整される可能性があります。したがって、最終的な意思決定のためにこの説明フィールドのみに依拠するのではなく、ラベル フィールドに基づいて処理することをお勧めします。

ラベル数

整数

8

ラベルが一致した回数。

表 5 フレーム

パラメーター

タイプ

説明

TempUrl

String

http://www.aliyundoc.com/test.jpg

キャプチャされたライブストリームフレームの一時 URL です。この URL は 30 分間有効です。キャプチャされたフレームをオブジェクトストレージサービス (OSS) バケットにタイムリーに保存することをお勧めします。

説明

ビデオ証拠を OSS バケットに保存する機能が有効になっている場合、このパラメーターはキャプチャされたフレームの OSS URL を返します。

Offset

Float

50.5

ライブストリームの開始とキャプチャされたフレームの間隔です。単位:秒。

Timestamp

Integer

1684559739000

キャプチャされたフレームが処理されたときの絶対タイムスタンプです。単位:ミリ秒。

RiskLevel

String

high

ライブストリームフレームのリスクレベルです。リスクレベルは、事前に設定された高リスクスコアと低リスクスコアに基づいて決定されます。戻り値は次のとおりです。

  • high: 高リスク

  • medium: 中リスク

  • low: 低リスク

  • none: リスクなし

説明

リスクが高いとフラグが付けられたコンテンツについては、直ちに処理措置を取ることをお勧めします。 中リスクのコンテンツについては、手動でのレビューをお勧めします。 低リスクのコンテンツは、高い再現率が求められる場合に処理できます。 それ以外の場合は、日常業務においてリスクが検出されていないコンテンツと同様に処理できます。 ビデオフレームのリスクスコアは、Video Moderation Plus で設定できます。

Results

JSONArray

ラベルパラメーターや信頼度パラメーターなどのフレームモデレーションパラメーターの結果です。詳細については、「」をご参照ください。表 6 結果

表 6 結果

パラメーター

タイプ

説明

サービス

文字列

baselineCheck_global

呼び出される画像モデレーションサービス。

結果

配列

ラベルパラメーターや信頼度パラメーターなど、フレームモデレーションパラメーターの結果です。詳細については、表 7 結果 をご参照ください。

表 7 結果

パラメーター

タイプ

説明

ラベル

文字列

violent_explosion

フレームのモデレート後に返されるラベル。フレームに対して複数のリスクラベルと対応する信頼レベルのスコアが返される場合があります。有効な値:

信頼度

浮動小数点数

81.22

信頼レベルのスコア。有効な値: 0 ~ 100 。値は小数点以下 2 桁まで正確です。

説明

文字列

Suspected content about smoke or fire is contained.

ラベルフィールドの説明。

説明

このフィールドは、ラベルフィールドの説明です。変更および調整の対象となります。したがって、最終決定のためにこの説明フィールドのみに依存するのではなく、ラベルフィールドに基づいて処理することをお勧めします。

表 8 audioResult

パラメーター

タイプ

説明

AudioSummarys

JSONArray

音声ラベルの概要です。構造の詳細については、 をご参照ください。表 9 AudioSummarys

RiskLevel

String

high

音声リスクレベル。リスクレベルは、すべての音声セグメントの分析に基づいて計算および返されます。戻り値は次のとおりです。

  • high: 高リスク

  • medium: 中リスク

  • low: 低リスク

  • none: リスクなし

SliceDetails

JSONArray

モデレートされた音声内のテキストに関する詳細。値は、1 つ以上の要素を含む JSON 配列です。各要素はテキストエントリに対応します。構造の詳細については、 をご参照ください。表 10 SliceDetails.

表 9 AudioSummarys

ヘッダー

タイプ

説明

ラベル

文字列

profanity

音声ラベル。

ラベル合計

整数

8

ラベルが一致した回数。

表 10 SliceDetails

パラメーター

タイプ

説明

StartTime

Integer

0

音声テキスト変換後のテキストの開始時間。単位:秒。

EndTime

Integer

4065

音声テキスト変換後のテキストの終了時間。単位:秒。

StartTimestamp

Integer

1678854649720

セグメントの開始タイムスタンプ。単位:ミリ秒。

EndTimestamp

Integer

1678854649720

セグメントの終了タイムスタンプ。単位:ミリ秒。

Text

String

Disgusting

音声から変換されたテキスト。

Url

String

https://aliyundoc.com/test.wav

モデレーション対象が音声ストリームの場合、このパラメーターは、テキストエントリに対応する音声ストリームの一時アクセス URL を示します。 URL の有効期間は 30 分です。できるだけ早く音声ストリームを保存するために、別の URL を準備する必要があります。

Labels

String

political_content,xxxx

ラベルの詳細。複数のラベルはカンマ (,) で区切ります。有効な値:

  • ad: 広告コンテンツ

  • 暴力暴力: テロコンテンツ

  • political_content: 政治的にセンシティブなコンテンツ

  • specified_speaking: 特定の話し方

  • specified_lyrics: 指定された歌詞

  • sexual_content: 性的なコンテンツ

  • sexual_sounds: うめき声

  • 禁制品禁制品: 禁制品コンテンツ

  • 冒涜不適切な表現: : 虐待的なコンテンツ

  • 宗教宗教: 宗教的コンテンツ

  • サイバーいじめネットいじめ:: サイバーいじめ

  • negative_content: 望ましくないコンテンツ

  • nontalk: 無音オーディオ

  • C_customized: ヒットするカスタム ライブラリ

RiskLevel

String

high

動画内の音声セグメントのリスク レベル。戻り値は次のとおりです。

  • high: 高リスク

  • medium: 中リスク

  • low: 低リスク

  • none: リスクなし

RiskWords

String

AAA, BBB, CCC

ヒットしたリスクワード。複数の単語はカンマ (,) で区切ります。

RiskTips

String

Pornography_vulgar words, pornography_description

サブカテゴリ ラベル。複数のラベルはカンマ (,) で区切ります。

Extend

String

{"riskTips":"Pornography_vulgar words","riskWords":"Pornography service"}

予約済みパラメーター。

サンプルリクエスト

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

成功応答の例

  • ライブストリーム内の画像のみをモデレートする

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished", // 正常に完了しました
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Suspected content about smoke or fire is detected", // 煙や火に関する疑わしいコンテンツが検出されました
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Suspected of containing nudity or sexy content involving body exposure", // ヌードまたは露出を伴う性的なコンテンツが含まれている疑いがあります
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "No risk detectd" // リスクは検出されませんでした
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Suspected of containing nudity or sexy content involving body exposure" // ヌードまたは露出を伴う性的なコンテンツが含まれている疑いがあります
                                },
                              	{
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "Suspected content about smoke or fire is detected" // 煙や火に関する疑わしいコンテンツが検出されました
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

  • ライブストリーム内の画像と音声の両方をモデレートする

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "success finished",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "Content Moderation",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Welcome to the Alibaba Cloud Content Moderation servic",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "Suspected content about smoke or fire is detected",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "Suspected of containing nudity or sexy content involving body exposure",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "No risk detectd"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "v"
                                },
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "Suspected of containing nudity or sexy content involving body exposure"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

モデレーションタスクの送信

使用上の注意

この操作を呼び出して、ライブストリーム モデレーション タスクをキャンセルできます。

  • サービス: VideoModerationCancel

  • 課金: この操作は無料です。

デバッグ

SDK をデプロイする前に、Alibaba Cloud OpenAPI Explorer を使用して、VideoModerationCancel オペレーションをオンラインでデバッグし、呼び出しと SDK の依存関係のサンプルコードを確認できます。これにより、オペレーションの呼び出し方法と関連パラメーターの設定方法を理解できます。

リクエスト パラメーター

パラメーター

タイプ

必須

説明

サービス

文字列

はい

liveStreamDetection_global

モデレーションサービスのタイプ。送信されたモデレーションタスクのモデレーションサービスのタイプと同じである必要があります。

ServiceParameters

JSON 文字列

はい

モデレーションサービスに必要なパラメーター。値は JSON 文字列です。各文字列の説明については、表 11 ServiceParameters をご参照ください。

表 11 ServiceParameters

パラメーター

タイプ

必須

説明

taskId

string

はい

abcd****

キャンセルするモデレーションタスクの ID です。一度に 1 つのタスク ID を入力できます。

注: モデレーションタスクを送信した後、レスポンスからタスクの ID を取得できます。

レスポンスパラメーター

パラメーター

タイプ

説明

コード

整数

200

HTTPステータスコード。詳細については、レスポンスコードをご参照ください。

メッセージ

文字列

OK

レスポンスで返されるメッセージ。

リクエスト ID

文字列

AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****

リクエストの ID。

サンプルリクエスト

{
    "Service": "liveStreamDetection",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

サンプルレスポンス

{
    "Msg": "OK",  // OK
    "Code": 200, // コード
    "RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477" // リクエスト ID
}

レスポンスコード

次の表は、Live Stream Moderation API操作のレスポンスコードについて説明しています。従量課金制を使用して、レスポンスコードが 200 と 280 のリクエストに対してのみ課金されます。2.0 API操作。レスポンスコードが 200 と 280 のリクエストに対してのみ、従量課金制で課金されます。

コード

説明

200

リクエストは正常であるか、モデレーションは完了しています。

280

モデレーションは進行中です。

400

すべてのリクエストパラメータが設定されているわけではありません。

401

1 つ以上のリクエストパラメータに指定された値が無効です。

402

リクエストパラメータの値の長さが無効です。確認して修正し、再試行してください。

403

リクエストの QPS が上限を超えています。一度に送信されるリクエストの数を確認して変更してください。

404

指定されたビデオファイルをダウンロードできませんでした。ビデオファイルの URL を確認するか、再試行してください。

405

指定されたビデオファイルのダウンロードがタイムアウトしました。考えられる原因は、ビデオファイルにアクセスできないことです。ビデオファイルを確認して調整し、再試行してください。

406

指定されたビデオファイルが大きすぎます。ビデオファイルのサイズを確認して変更し、再試行してください。

407

指定されたビデオファイルの形式はサポートされていません。ビデオファイルの形式を確認して変更し、再試行してください。

408

必要な権限がありません。考えられる原因は、このアカウントがアクティブ化されていないか、支払いが期限切れになっているか、この API を呼び出す権限がないことです。

409

指定されたタスク ID は存在しません。考えられる原因は、モデレーション結果が 24 時間の有効期限を超えていることです。

480

同時実行モデレーションタスクの数が上限を超えています。同時実行モデレーションタスクの数を確認して変更してください。

500

システム例外が発生しました。