AI Guardrails:ビデオ ライブストリーム モデレーション API 2.0

オンボーディングガイド

1. Alibaba Cloud アカウントを登録し、指示に従って登録を完了します。

2. AI ガードレールの従量課金を有効化します。サービスが有効化されていることを確認してください。詳細については、「サービスの有効化」をご参照ください。サービスの有効化に料金は発生しません。API を使用すると、システムが使用量に基づいて自動的に課金します。詳細については、「課金の説明」をご参照ください。

3. RAM コンソールで AccessKey を作成します。詳細については、「AccessKey の作成」をご参照ください。RAM ユーザーの AccessKey を使用する場合は、Alibaba Cloud アカウントを使用して、RAM ユーザーに AliyunYundunGreenWebFullAccess 権限を付与する必要があります。詳細については、「RAM ユーザーへの権限付与」をご参照ください。

4. サービスを開発して統合します。SDK を使用してオペレーションを呼び出すことを推奨します。詳細については、「ビデオモデレーション SDK v2.0 と統合ガイド」をご参照ください。

5. ライブ動画ストリームモデレーションサービスには、次の 3 つの API オペレーションが含まれます。

   • VideoModeration: ライブストリームモデレーションタスクの送信

   • VideoModerationResult: ライブストリームモデレーションタスクの結果のクエリ

   • VideoModerationCancel: ライブストリームモデレーションタスクのキャンセル

モデレーションジョブの送信

API の説明

• API オペレーション： VideoModeration。このオペレーションは、ライブビデオストリームの非同期モデレーションのみをサポートしています。

• 対応リージョンとエンドポイント：

  リージョン	パブリックエンドポイント	VPC エンドポイント	対応サービス
  Singapore	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	liveStreamDetection_global, liveStreamDetectionByVL_global
  US (Virginia)	green-cip.us-east-1.aliyuncs.com	green-cip-vpc.us-east-1.aliyuncs.com	liveStreamDetection_global
  US (Silicon Valley)	green-cip.us-west-1.aliyuncs.com	利用不可
  Germany (Frankfurt)	green-cip.eu-central-1.aliyuncs.com	利用不可

• 課金：

  本オペレーションは有料です。ライブビデオフレームと音声に対して設定したモデレーションポリシーに基づいて課金されます。ライブビデオフレームでは、複数のサービスを選択できます。合計料金は、ビデオスナップショットの数に各サービスの単価を乗じて計算されます。ライブストリーム内の音声も違反がないかモデレーションする場合、追加料金が課金されます。この料金は、動画の再生時間に音声モデレーション機能の単価を乗じて計算されます。課金方法の詳細については、「課金」をご参照ください。

• 検出対象： ライブビデオストリーム。

• 応答： 非同期モデレーションジョブは、結果をリアルタイムでは返しません。コールバックまたはポーリングを使用してモデレーション結果を取得する必要があります。

  • コールバックを使用してモデレーション結果を取得する： 非同期モデレーションジョブを送信する際に、リクエストで callback パラメーターを指定すると、モデレーション結果を自動的に受信できます。

  • ポーリングを使用してモデレーション結果を取得する： 非同期モデレーションジョブを送信する際に、callback パラメーターを指定しないでください。ジョブの送信後、結果クエリ操作を呼び出してモデレーション結果を取得できます。

• ライブストリームの要件：

  • 対応プロトコル： RTMP、HLS、HTTP-FLV、RTSP。

  • ライブストリームの持続時間制限： 1 回のライブビデオストリームモデレーションジョブは、最大 24 時間まで継続できます。この制限を超えると、ジョブは自動的に終了します。

• 検出ルールの設定：

  • 初回の呼び出しでは、Content Moderation コンソールでライブストリームモデレーションのルールを設定できます。

  • ルールを設定しない場合、Live Stream Moderation V2.0 API は、次のデフォルト設定を使用します：

    サービス	デフォルト設定
    ライブストリーム検出 (liveStreamDetection_global)	固定フレームキャプチャ頻度： 1 フレーム/秒 ビデオフレーム検出サービス： 汎用ベースライン検出 (baselineCheck_global) ビデオ音声検出： 有効 ビデオ音声検出サービス： Social and entertainment live stream detection (live_stream_detection_global) 結果の返却方法： 検出された脅威を含む結果のみを返します
    ライブストリーム検出 (大規模モデル) (liveStreamDetectionByVL_global) 説明 現在は Beijing リージョンと Shanghai リージョンでのみサポートされています。大規模モデル版は、同時インジェストエンドポイントが 10 に制限されています。	固定フレームキャプチャ頻度： 1 フレーム/秒 ビデオフレーム検出サービス： Image moderation service with large and small models (postImageCheckByVL) ビデオ音声検出： 有効 ビデオ音声検出サービス： Social and entertainment live stream detection (live_stream_detection) 結果の返却方法： 検出された脅威を含む結果のみを返します

QPS 制限

このオペレーションの 1 秒あたりのクエリ数 (QPS) 制限は、ユーザーごとに 100 です。同時モデレーションストリームの数は 50 に制限されています。つまり、最大 50 個のジョブを同時に処理できます。制限を引き上げるには、ビジネスマネージャーにお問い合わせください。制限を超えると、API 呼び出しがスロットリングされます。これはビジネスに影響を及ぼす可能性があります。オペレーションは適切に呼び出してください。

デバッグ

統合前に、Alibaba Cloud OpenAPI を使用して、VideoModeration API のオンラインでのデバッグ、サンプルコードと SDK 依存関係情報の確認、API メソッドとパラメーターの概要の取得も可能です。

リクエストパラメータ

表 1. サービスパラメーター

応答パラメーター

例

サンプルリクエスト

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "url": "http://www.aliyundoc.com/a.flv",
        "dataId": "videoId****",
        "liveId": "liveId****"
    }
}

成功レスポンスのサンプル

{
    "Msg": "OK", // メッセージ
    "Code": 200, // コード
    "Data": // データ
    {
        "TaskId": "AAAAA-BBBBB", // タスク ID
        "DataId": "videoId****" // データ ID
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****" // リクエスト ID
}

ライブストリームモデレーションジョブの結果をクエリする

API の説明

• API オペレーション： VideoModerationResult

• 課金：このオペレーションは課金されません。

• クエリタイムアウト：クエリ間隔を 30 秒に設定できます。つまり、非同期モデレーションジョブを送信してから 30 秒後に結果をクエリできます。クエリの最大期間は24 時間です。24 時間が経過すると、結果は自動的に削除されます。

• 結果の返却：ライブストリームが配信中の場合、クエリごとに直近 10 件のモデレーション結果が返されます。ライブストリームが終了している場合は、すべてのモデレーション結果が返されます。

QPS 制限

このオペレーションの QPS 制限は、ユーザーごとに 100 です。制限を超えると、API 呼び出しがスロットリングされます。これにより、お客様のビジネスに影響が出る可能性があります。適切な頻度でオペレーションを呼び出してください。

デバッグ

統合前に、Alibaba Cloud OpenAPI を使用して VideoModerationResult API をオンラインでデバッグすることもできます。その際、サンプルコードと SDK の依存関係情報を参照し、API メソッドとパラメーターの概要を取得できます。

リクエストパラメーター

テーブル 1. ServiceParameters

レスポンス パラメーター

テーブル 2：データ

表 3. FrameResult

テーブル 4. フレームサマリー

表5. フレーム

テーブル 6：結果

表 7：結果

表 8. 音声結果

表 9. 音声要約

表 10. スライス詳細

表 10-1. 結果

表 10-2. CustomizedHit

表 10-3. リスクポジション

例

サンプルリクエスト

{
    "Service": "liveStreamDetection_global",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

成功レスポンスのサンプル

• ライブストリームビデオのみのモデレート

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "成功",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "花火が含まれている疑いがあります",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "ヌードまたは性的コンテンツが含まれている疑いがあります",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "リスクは検出されませんでした"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "ヌードまたは性的コンテンツが含まれている疑いがあります"
                                },
                              	{
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "花火が含まれている疑いがあります"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

• ライブストリームのビデオおよびオーディオのモデレーション

{
    "Code": 200,
    "RequestId": "25106421-XXXX-XXXX-XXXX-15DA5AAAC546",
    "Message": "正常に終了しました",
    "Data": {
        "DataId": "dc16c28f-xxxx-xxxx-xxxx-51efe0131080",
        "LiveId": "live0307-0728-****",
        "RiskLevel": "high",
        "AudioResult": {
            "AudioSummarys": [
                {
                    "Label": "sexual_sounds",
                    "LabelSum": 3
                }
            ],
            "RiskLevel": "high",
            "SliceDetails": [
                {
                    "EndTime": 60,
                    "EndTimestamp": 1698912813192,
                    "Labels": "",
                    "RiskLevel": "none",
                    "StartTime": 30,
                    "StartTimestamp": 1698912783192,
                    "Text": "AI Guardrails",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                },
                {
                    "EndTime": 30,
                    "EndTimestamp": 1698912813192,
                    "Extend": "{\"customizedWords\":\"service\",\"customizedLibs\":\"test\"}",
                    "Labels": "C_customized",
                    "RiskLevel": "high",
                    "StartTime": 0,
                    "StartTimestamp": 1698912783192,
                    "Text": "Alibaba Cloud AI Guardrails サービスへようこそ",
                    "Url": "http://abc.oss-ap-southeast-1.aliyuncs.com/test.wav"
                }
            ]
        },
        "FrameResult": {
            "FrameNum": 2,
            "FrameSummarys": [
                {
                    "Label": "violent_explosion",
                    "Description": "花火が含まれている疑いがあります",
                    "LabelSum": 8
                },
                {
                    "Label": "sexual_cleavage",
                    "Description": "ヌードまたは性的コンテンツが含まれている疑いがあります",
                    "LabelSum": 8
                }
            ],
            "RiskLevel": "medium",
            "Frames": [
                {
                    "Offset": 1,
                    "RiskLevel": "none",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Label": "nonLabel",
                                    "Description": "リスクは検出されませんでした"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test1.jpg",
                    "Timestamp": 1704769999000
                },
                {
                    "Offset": 2,
                    "RiskLevel": "medium",
                    "Results": [
                        {
                            "Result": [
                                {
                                    "Confidence": 74.18,
                                    "Label": "violent_explosion",
                                    "Description": "花火が含まれている疑いがあります"
                                },
                                {
                                    "Confidence": 78.88,
                                    "Label": "sexual_cleavage",
                                    "Description": "ヌードまたは性的コンテンツが含まれている疑いがあります"
                                }
                            ],
                            "Service": "baselineCheck_global"
                        }
                    ],
                    "TempUrl": "http://abc.oss-ap-southeast-1.aliyuncs.com/test2.jpg",
                    "Timestamp": 1704769989000
                }
            ]
        }
    }
}

ライブストリームモデレーションジョブのキャンセル

API の説明

このオペレーションを呼び出すと、ライブストリーム モデレーション ジョブをキャンセルできます。

• API オペレーション： VideoModerationCancel

• 課金：このオペレーションに料金は発生しません。

デバッグ

統合の前に、Alibaba Cloud OpenAPI を使用して VideoModerationCancel API をオンラインでデバッグし、サンプル呼び出しコードと SDK の依存関係情報を表示して、API の使用量とパラメーターの概要を確認することもできます。

リクエストパラメータ

表 11. サービス パラメーター

レスポンスパラメーター

例

サンプルリクエスト

{
    "Service": "liveStreamDetection",
    "ServiceParameters": {
        "taskId": "abcd****"
    }
}

サンプルレスポンス

{
    "Msg": "OK",
    "Code": 200,
    "RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477"
}

コードの説明

このトピックでは、動画ライブストリーム審査 2.0 API の応答コードについて説明します。応答コードが 200 または 280 のリクエストのみが課金対象となります。その他の応答コードを返すリクエストは課金されません。