すべてのプロダクト
Search

このプロダクト

    AI Guardrails:機械審査のポリシーをカスタマイズする

    ドキュメントセンター

    AI Guardrails:機械審査のポリシーをカスタマイズする

    最終更新日:Apr 01, 2026

    Content Moderation は、すべての API リクエストにデフォルトポリシーを適用します。特定のビジネスシナリオに対してデフォルトポリシーが厳しすぎる、または緩すぎる場合は、カスタム BizType を作成し、そのモデレーションポリシーを構成します。各 BizType は 1 つのポリシーにマッピングされ、BizType を指定する API リクエストは、デフォルトの代わりにそのポリシーを使用します。

    前提条件

    開始する前に、以下を確保してください。

    • アクティブな Alibaba Cloud アカウントによるContent Moderation コンソールへのアクセス

    • (初回ユーザー) 初回ログイン時にプロンプトが表示されたとおりに、Object Storage Service (OSS) への読み取り/書き込み権限をアカウントに付与済みであること。既存の権限ポリシーを再利用して、OSS バケット内の不正コンテンツを検出できます。

    基本概念

    BizType は、特定のモデレーションポリシーを選択するために API リクエストにアタッチする文字列識別子です。BizType を指定しない場合、Content Moderation はデフォルトポリシーを使用します。

    各 BizType は、次の 3 つの構成領域をカバーします。

    エリア構成内容
    モデレーションポリシースクリーニングするコンテンツタイプとその厳格さ
    監査データ人間によるレビューにルーティングする結果
    証拠ストレージフラグ付きコンテンツを OSS にアーカイブするかどうか

    BizType の作成

    1. Content Moderation コンソールにログインします。

    2. 左側のナビゲーションウィンドウで、Machine audit V1.0 ＞ 設定項目 を選択します。

    3. 「マシン監査」ページの[BizType 管理]タブで、[BizType の作成]をクリックします。

    4. [Create BizType] ダイアログボックスで、以下のパラメーターを設定します。

      パラメーター説明
      名前BizType の名前。使用可能な文字：数字、文字、アンダースコア (_)。最大長：32 文字。
      テンプレートの適用事前設定された構成をインポートするために業界テンプレートを選択します。テンプレートを使用する場合、一部のポリシー設定はそれ以上カスタマイズできません。ポリシーを手動で構成するには、空白のままにします。
      業界カテゴリこのシナリオの業界カテゴリ。適切なカテゴリを設定すると、Alibaba Cloud がポリシー調整を支援できます。
      コピー元既存の BizType の構成を開始点としてインポートします。
      説明BizType の説明。使用可能な文字：文字、数字、アンダースコア (_)。最大長：32 文字。

    5. [OK] をクリックします。

    モデレーションポリシーの構成

    BizType を作成したら、スクリーニングするコンテンツを構成します。

    1. [マシン監査] ページで BizType を見つけ、「操作」列の [編集] をクリックします。

    2. 「[モデレーションポリシー]」タブで、お客様のビジネスに該当するモデレーションシナリオを選択します。Content Moderation は、複数のコンテンツタイプにわたる機械審査をサポートしています。必要のないシナリオはすべてクリアしてください。たとえば、広告のモデレーションが不要な場合、正当なプロモーションコンテンツに対する誤検知を回避するために、すべての広告関連シナリオをクリアします。

      イメージモデレーションポリシーの場合、セクションの右上隅にある[関連付けギャラリー]または[関連付けテキストライブラリ]をクリックして、ポリシーをカスタムイメージライブラリまたはテキストライブラリに関連付けます。
      コンテンツタイプ利用可能なシナリオ
      画像と動画ポルノ検出、テロリストのコンテンツ検出、不適切シーン検出、広告違反検出
      テキストとオーディオポルノコンテンツ、政治的コンテンツ、嫌がらせ、広告、禁止コンテンツ

    3. [保存] をクリックします。

    API リクエストでの BizType の使用

    カスタムポリシーを適用するには、API リクエストに BizType 名を含めます。各モデレーションシナリオには独自のパラメーターがあります。たとえば、ポルノコンテンツの画像をスクリーニングするときにカスタムポリシーを適用するには、API リクエストで scenes パラメーターを porn に設定します。

    完全なパラメーターリファレンスについては、「/green/image/scan」をご参照ください。

    監査データルーティングの構成

    機械審査結果のうち、人間によるレビューに転送するものを選択します。

    1. [監査データ] タブをクリックします。

    2. 人間によるレビュー担当者にルーティングする結果タイプを選択します。

    人間によるレビューワークフローの詳細については、「機械審査結果のレビュー」をご参照ください。

    証拠ストレージの構成

    証拠ストレージは、機械審査プロセスが処理するコンテンツ (フラグ付き、疑わしい、またはクリーン) を指定された OSS バケットにアーカイブします。これにより、コンプライアンス、監査、または異議申し立て処理のためにレコードを保持できます。

    証拠ストレージはデフォルトで無効になっています。

    仕組み

    有効にすると、Content Moderation は API によって返される suggestion 値に基づいてコンテンツを保存します。

    API suggestion 値意味保存される内容
    block不正マシン識別違反 が選択された場合に保存されます。
    review疑わしいマシン識別が疑われる が選択された場合に保存されます。
    pass正常マシン識別は正常です。 が選択された場合に保存されます。

    保存後、アーカイブされた各ファイルの OSS URL が API 応答で返されます。

    コンテンツタイプAPI 応答フィールド
    動画data.extras.newUrl
    オーディオdata.new_url と data.result.details.url
    画像data.storedUrl

    アーカイブされたファイルは、OSS コンソールでも表示できます。

    証拠ストレージの有効化

    1. [証拠ストレージ] タブをクリックします。

    2. [ビデオ証拠ストレージ]、[オーディオ証拠ストレージ]、および [画像証拠転送] の各セクションで、[証拠ストレージを有効化] をオンにし、次のパラメーターを設定します。

      パラメーター説明
      OSS バケット証拠ファイルが保存される OSS バケット。
      ストレージディレクトリOSS バケット内のフォルダ。フォルダが存在しない場合は、自動的に作成されます。
      URL 有効期間各証拠ファイルの OSS URL が有効なままになる期間。有効値：300～3600 秒。
      転送範囲マシン識別違反保存する結果タイプ。1 つ以上選択します： (block)、[機械識別が疑われる] (review)、[機械識別は正常です。] (pass)。

    3. [保存] をクリックします。

    ストレージパス規則

    すべての証拠ファイルは、OSS バケット内で構造化されたパスに従います。

    動画関連ファイル

    ファイルタイプストレージパス命名規則
    動画ファイル${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video name.Suffix}元の動画ファイルにちなんで命名
    動画スナップショット${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video snapshot name.Suffix}キャプチャ時刻で命名 (例: 00_01_02 = 00:01:02 にキャプチャ)
    動画ストリーム${bucket}/${Storage folder}/video/${suggestion}/${taskId}/${Video stream name.Suffix}レビュー開始時刻で命名 (例: 20190102_12_02_03.wav = 2019年1月2日 12:02:03 に開始)

    オーディオ関連ファイル

    ファイルタイプストレージパス命名規則
    オーディオファイル${bucket}/${Storage folder}/audio/${suggestion}/${taskId}/${Audio name.Suffix}元のオーディオファイルにちなんで命名
    オーディオフラグメント${bucket}/${Storage folder}/audio/${suggestion}/${taskId}/${Audio fragment name.Suffix}開始時刻と終了時刻で命名 (例: 00_01_02-00_10_13.mp3 = 00:01:02 から 00:10:13 にトリミング)

    画像ファイル

    ファイルタイプストレージパス命名規則
    画像${bucket}/${Storage folder}/image/${suggestion}/${taskId}/${Image name.Suffix}元の画像ファイルにちなんで命名

    次のステップ

    • 機械審査結果の確認：フラグが付けられたコンテンツを人間のレビュー担当者に転送し、最終決定を依頼します。

    • /green/image/scan：イメージモデレーション API リクエストの完全なパラメーターリファレンスです。