AI Guardrails:LLM 音声モデレーション

概要

音声モデレーション (大規模モデル版) は、音声コンテンツのリスクシナリオに合わせてファインチューニングされた Qwen 大規模言語モデル (LLM) を使用し、音声内のリスクのあるコンテンツを検出してフラグを立てます。次のサービスを利用できます：

• [Audio and Video Media Detection_LLM Edition]：

  音声ファイルをモデレートします。Qwen 大規模モデルを使用して、音声認識とリスク検出を強化します。中国語、英語、日本語、ドイツ語、韓国語、ロシア語、フランス語、ポルトガル語、アラビア語、イタリア語、スペイン語、ヒンディー語、インドネシア語、タイ語、トルコ語、ウクライナ語、ベトナム語、チェコ語、デンマーク語、フィリピン語、フィンランド語、アイスランド語、マレー語、ノルウェー語、ポーランド語、スウェーデン語を含む 26 言語をサポートしています。

• [Social & Entertainment Live Stream Detection_LLM Version]：

  ライブ音声ストリームをモデレートします。Qwen 大規模モデルを使用して、音声認識とリスク検出を強化します。中国語、英語、日本語、ドイツ語、韓国語、ロシア語、フランス語、ポルトガル語、アラビア語、イタリア語、スペイン語、ヒンディー語、インドネシア語、タイ語、トルコ語、ウクライナ語、ベトナム語、チェコ語、デンマーク語、フィリピン語、フィンランド語、アイスランド語、マレー語、ノルウェー語、ポーランド語、スウェーデン語を含む 26 言語をサポートしています。

サービスの選択

課金

Voice Moderation (Large Model Edition) は、従量課金に対応しています。また、大量または継続的な使用量が見込まれる場合は、リソースパッケージを購入することでコストを削減できます。

従量課金

Voice Moderation (Large Model Edition) を有効化すると、従量課金がデフォルトの課金方法となります。料金は実際の使用量に基づいて請求され、サービスを呼び出さない限り料金は発生しません。

利用開始

ステップ 1：サービスの有効化

音声モデレーションの有効化ページに移動してサービスを有効化します。

有効化後、デフォルトの課金方法は従量課金となります。料金は実際の使用量に対してのみ請求され、サービスを使用しない場合は料金は発生しません。課金の詳細については、「課金」をご参照ください。また、使用量が予測可能、または大量のユーザー向けに、従量課金よりも段階的な割引が適用されるリソースパッケージを購入することもできます。

ステップ 2：RAM ユーザーへの権限付与

API の呼び出しや SDK を使用する前に、必要な権限を RAM ユーザーに付与してください。API コールは、Alibaba Cloud アカウントまたは RAM ユーザーの AccessKey ペアを使用して認証されます。詳細については、「AccessKeyの取得」をご参照ください。

1. Alibaba Cloud アカウントまたは RAM 管理者アカウントを使用してRAM コンソールにログインしてください。

2. RAM ユーザーを作成してください。詳細については、「RAM ユーザーの作成」をご参照ください。

3. AliyunYundunGreenWebFullAccess システムポリシーを RAM ユーザーにアタッチしてください。詳細については、「RAM ユーザーへの権限付与」をご参照ください。これにより、RAM ユーザーは Content Moderation API を呼び出すことができます。

ステップ 3：SDK のインストールと統合

「音声モデレーション SDK と統合ガイド」に従って SDK をインストールし、統合してください。このサービスは、次のリージョンで利用できます：

ステップ 4：モデレーションルールの調整 (任意)

Content Moderation コンソールでは、大規模モデルの検出ルールの設定、テキストモデレーションルールの管理、サービスのクローン、カスタム辞書の設定、審査ログの確認、および使用量の監視ができます。

API リファレンス

使用上の注意

このAPIを使用して、音声コンテンツのモデレーションタスクを送信できます。HTTP リクエストの構築手順については、「Making native HTTP calls」をご参照ください。または、SDK を使用することもできます。詳細については、「Voice Moderation の SDK および統合ガイド」をご参照ください。

• API：

  • VoiceModeration：モデレーションタスクを送信します。

  • VoiceModerationResult：モデレーションタスクの結果を照会します。

  • VoiceModerationCancel：モデレーションタスクをキャンセルします。

• 課金：

  このAPIは有料です。HTTP ステータスコード 200 を返すリクエストに対してのみ課金されます。失敗したリクエスト (他のステータスコード) は課金されません。詳細については、「課金」をご参照ください。

• サービスパフォーマンス：

  サービスパフォーマンス	説明
  音声ファイルサイズ	最大 500 MB の音声ファイルに対応しています。
  音声および動画ファイルの形式	音声ファイルの対応形式：MP3、WAV、AAC、WMA、OGG、M4A、AMR。 動画ファイルの対応形式：AVI、FLV、MP4、MPG、ASF、WMV、MOV、RMVB、RM。
  ライブオーディオストリーム	対応プロトコル：RTMP、HLS、HTTP-FLV、RTSP。
  1 秒あたりのクエリ数 (QPS)	タスク送信の上限は 100 QPS です。
  同時ストリーム	デフォルトで 50 の同時ストリームに対応しています。

審査タスクの送信

リクエストパラメーター

レスポンスパラメーター

例

• リクエスト例

{
    "Service": "audio_detection_byllm_global",
    "ServiceParameters": {
        "cryptType": "SHA256",
        "seed": "abc***123",
        "callback": "https://aliyun.com/callback",
        "url": "http://aliyundoc.com/test.mp3"
    }
}

• 成功レスポンス例

{
    "Code": 200,
    "Data": {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "voice20240307***"
    },
    "Message": "SUCCESS",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

タスク結果の照会

進行中のライブストリーム監査タスクでは、クエリを実行すると最新のオーディオスライスが返されます。タスクが完了すると、すべてのスライスが返されます。

• 監査タスクを照会するには、VoiceModerationResult API を呼び出します。

• 課金：この API は無料です。

• 照会のタイミング：非同期タスクを送信した後、少なくとも 30 秒待ってから結果を照会してください。結果は 24 時間保持され、その後自動的に削除されます。

レスポンスパラメーター

例

リクエスト例

{
    "Service": "audio_detection_byllm",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

成功レスポンスの例

{
    "Code": 200,
    "Data": {
        "DataId": "voice20240307***",
        "LiveId": "liveId1****",
        "RiskLevel": "high",
        "SliceDetails": [
            {
                "StartTime": 0,
                "EndTime": 4065,
                "RiskLevel": "high",
                "Result": [
                    {
                        "Label": "political_entity",
                        "Description": "Suspected political entity",
                        "Confidence": 100.0,
                        "RiskLevel": "high",
                        "RiskWords": "WordA,WordB",
                        "RiskPositions": [
                            {
                                "EndPos": 16,
                                "RiskWord": "WordA",
                                "StartPos": 14
                            }
                        ]
                    }
                ],
                "Text": "Content Moderation product test case",
                "Url": "https://aliyundoc.com"
            }
        ]
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

モデレーションタスクのキャンセル

キャンセルできるのは、ライブストリームモデレーションタスクのみです。ファイルベースのモデレーションタスクはキャンセルできません。

• モデレーションタスクをキャンセルするには、VoiceModerationCancel API を呼び出します。

• 課金：この API は無料です。

リクエストパラメーター

レスポンスパラメーター

例

• リクエストの例

{
    "Service": "live_detection_byllm_global",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

• 成功レスポンスの例

{
    "Code": 200,
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

コールバックメッセージ形式

ステータスコード

次の表に、API が返すステータスコードを示します。課金対象となるのは、成功したリクエスト (コード 200) のみです。