イメージモデレーション 2.0 は、カスタムでトレーニングされた Qwen 大規模言語モデル (LLM) とエキスパートモデルを組み合わせて使用し、ポルノ、示唆的なコンテンツ、政治的にデリケートなコンテンツ、暴力とテロ、禁制品、宗教的なコンテンツ、広告トラフィックと迷惑メール、不適切なコンテンツ、その他のリスクカテゴリなど、イメージ内の不適切なコンテンツを検出します。このサービスは、LLM の生の結果を返すことにも対応しています。このトピックでは、イメージモデレーションサービスを有効化して呼び出す方法について説明します。
画像審査モデルは現在も活発に開発が進められています。フィードバックについては、ビジネス担当者にお問い合わせください。
仕組み
イメージモデレーション 2.0 は、画像コンテンツのリスク特性に基づいてカスタムトレーニングされた Qwen LLM を使用し、以下のイメージモデレーションサービスを提供します:
大小モデル融合画像審査サービス:
大規模モデルと専門家モデルを組み合わせて、画像に含まれるポルノ、性的コンテンツ、政治的に敏感なコンテンツ、暴力やテロ、違法・禁制品、宗教関連、誘導広告、不適切なコンテンツなどの違反コンテンツを包括的に検出します。検出カテゴリの詳細については、「ルールの設定」をご参照ください。
大小モデル統合画像審査サービス (中国本土版) (postImageCheckByVL_ec):
画像審査の大規模モデルと専門家モデルの能力を総合的に活用し、画像に含まれるポルノ、性的コンテンツ、政治関連、暴力・テロ、禁制品、宗教、誘導広告、不良コンテンツなどの違反コンテンツを包括的に検出します。中国本土リージョン向けに調整された画像審査サービスで、詳細なリスクラベルとローカライズされたコンテンツ理解を提供します。検出カテゴリの詳細については、「ルールの設定」をご参照ください。
米国 (バージニア)、ドイツ (フランクフルト)、および中国 (香港) リージョンでは、LLM 推論はシンガポールで実行されます。データとログは、それぞれのリージョン (フランクフルトと香港) にローカルで保存されます。
サービスの選択
サービス | 説明 | サポートリージョン | 利用シーン |
大規模言語モデルによる画像のリスク検出( | LLM とエキスパートモデルを組み合わせて、ポルノのサブカテゴリ、特定の行動、特定のオブジェクトなど、より詳細なラベルを提供します。より広い検出範囲と豊富なラベルを提供します。低い誤検知率と偽陰性率を提供します。 | シンガポール、中国 (香港)、米国 (バージニア)、ドイツ (フランクフルト) | 厳格なリスク管理と詳細なポリシーを必要とするソーシャルメディア、ライブストリーミング、ゲーム、E コマース、教育ビジネス。詳細なリスクラベルを必要とするビジネス。高いパフォーマンス要件を持つ新規ユーザーに強く推奨されます。 |
postImageCheckByVL_ec | 中国本土に参入する越境ビジネス向けに設計されています。大規模言語モデルによる画像のリスク検出 サービスを拡張し、中国語のコンテキストと国内の規制コンプライアンス要件に最適化されています。 | 中国 (上海)、中国 (杭州)、中国 (北京)、中国 (深セン)、中国 (成都) |
|
postImageCheckByVL_cb の検出機能は baselineCheck_cb のすべての検出機能をカバーし、さらに 12 の検出ラベル (例:pornographic_underage、QRCode、pt_logo) を提供します。一部のリスクラベルは、2 つのサービス間で異なる名前を使用しています。例:pornographic_art (baselineCheck_cb) 対 pornographic_artwork (postImageCheckByVL_cb)、sexual_shoulder (baselineCheck_cb) 対 sexual_femaleShoulder (postImageCheckByVL_cb)、violent_blood (baselineCheck_cb) 対 violent_bloody (postImageCheckByVL_cb)。元のラベル名を取得するには、2 つのサービスを個別に呼び出してください。
前提条件
開始する前に、以下を確認してください。
アクティブな画像審査 2.0 サブスクリプション (従量課金)
Alibaba Cloud アカウント、または
AliyunYundunGreenWebFullAccessポリシーが付与された RAM ユーザー認証用の AccessKey ペア
はじめに
ステップ 1:サービスの有効化
サービス有効化ページにアクセスし、画像審査 2.0 を有効化します。有効化後、デフォルトの課金方法は従量課金です。料金は、実際の使用量に基づいて毎日決済されます。サービスを呼び出さない場合、課金されません。課金方法の詳細については、「課金」をご参照ください。
ステップ 2:RAM ユーザーへの権限付与
Alibaba Cloud アカウント (root ユーザー) または RAM ユーザーの AccessKey ペアを作成します。RAM ユーザーは、Content Moderation API を呼び出すために AliyunYundunGreenWebFullAccess ポリシーを持っている必要があります。
Alibaba Cloud アカウント (root ユーザー) または RAM 管理者として RAM コンソールにログインします。
RAM ユーザーを作成します。「RAM ユーザーの作成」をご参照ください。
AliyunYundunGreenWebFullAccessポリシーを RAM ユーザーにアタッチします。「RAM ユーザーの権限管理」をご参照ください。
ステップ 3:SDK のインストール
「画像審査 SDK と統合ガイド」に従って SDK をインストールし、エンドポイントを設定します。
以下の表は、サポートされているすべてのリージョンとエンドポイントの一覧です。
リージョン | パブリックエンドポイント | VPC エンドポイント | サポートされているサービス |
中国 (上海) | green-cip.cn-shanghai.aliyuncs.com | green-cip-vpc.cn-shanghai.aliyuncs.com | postImageCheckByVL_ec |
中国 (杭州) | green-cip.cn-hangzhou.aliyuncs.com | green-cip-vpc.cn-hangzhou.aliyuncs.com | postImageCheckByVL_ec |
中国 (北京) | green-cip.cn-beijing.aliyuncs.com | green-cip-vpc.cn-beijing.aliyuncs.com | postImageCheckByVL_ec |
中国 (深セン) | green-cip.cn-shenzhen.aliyuncs.com | green-cip-vpc.cn-shenzhen.aliyuncs.com | postImageCheckByVL_ec |
中国 (成都) | green-cip.cn-chengdu.aliyuncs.com | N/A | postImageCheckByVL_ec |
シンガポール | green-cip.ap-southeast-1.aliyuncs.com | green-cip-vpc.ap-southeast-1.aliyuncs.com | postImageCheckByVL_グローバル |
マレーシア (クアラルンプール) | green-cip.ap-southeast-3.aliyuncs.com | N/A | |
インドネシア (ジャカルタ) | green-cip.ap-southeast-5.aliyuncs.com | N/A | |
中国 (香港) | green-cip.cn-hongkong.aliyuncs.com | green-cip-vpc.cn-hongkong.aliyuncs.com | |
米国 (バージニア) | green-cip.us-east-1.aliyuncs.com | green-cip-vpc.us-east-1.aliyuncs.com | |
ドイツ (フランクフルト) | green-cip.eu-central-1.aliyuncs.com | green-cip-vpc.eu-central-1.aliyuncs.com |
ドイツ (フランクフルト) および中国 (香港) リージョンでは、LLM 推論はシンガポールリージョンで実行されます。データとログは、それぞれのリージョン (フランクフルトと香港) にローカルで保存されます。
イギリス (ロンドン)、マレーシア (クアラルンプール)、インドネシア (ジャカルタ) リージョンは、シンガポールリージョンのコンソール設定を再利用します。米国 (シリコンバレー) リージョンは、米国 (バージニア) リージョンのコンソール設定を再利用します。
ステップ 4:検出ルールの設定 (任意)
Content Moderation コンソールでは、検出カテゴリの有効化または無効化、サービスのコピー、カスタムイメージライブラリの設定、カスタム用語集の設定、検出レコードのクエリ、使用量データの確認などの検出ルールを設定できます。 詳細については、「コンソールガイド」をご参照ください。
API リファレンス
API 概要
API:
ImageModerationサービスコード:
postImageCheckByVL_global,postImageCheckByVL_ecQPS 制限: ユーザーあたり 50 呼び出し/秒。この制限を超えるとリクエストがスロットリングされます。クォータの引き上げについては、ビジネス担当者にお問い合わせください。
課金: 成功したリクエスト (HTTP 200) ごとに課金され、毎日決済されます。料金はサービスによって異なります。詳細については、「課金」セクションをご参照ください。
API のデバッグ
統合前に、Alibaba Cloud OpenAPI のオンラインデバッグを使用して、 API と 画像審査 2.0 API を試すことができます。また、サンプルコードと SDK の依存関係情報を確認して、これらの API とそのパラメーターの使用方法の概要を把握できます。
オンラインデバッガーを介した API 呼び出しは課金されます。
画像要件
制約 | 制限 |
サポートされているフォーマット | PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC (最長辺 < 8,192 px)、GIF (最初のフレーム)、ICO (最後の画像) |
最大ファイルサイズ | 20 MB |
最大ディメンション | 16,384 px (高さまたは幅); 総ピクセル数 2 億 5000 万 |
最適な解像度 | 少なくとも 200 x 200 px (解像度が低いと精度が低下します) |
ダウンロードタイムアウト | 3 秒 |
URL 制限 | パブリックにアクセス可能; 最大 2,048 文字; 中国語文字なし; リクエストごとに 1 つの URL |
画像の送信
リクエストごとに以下のいずれかの方法で画像を送信します。
メソッド | 必須パラメーター | 注 |
URL |
| URL はパブリックにアクセス可能である必要があります |
OSS 権限付与 |
| クラウドリソースアクセス承認ページで |
ローカルアップロード | SDK 経由でアップロード | ファイルはアップロード後 30 分で削除されます。OSS ストレージは消費しません。コード例については、「画像審査 SDK ガイド」をご参照ください。 |
リクエストパラメーター
リクエストボディは JSON オブジェクトです。必須の共通リクエストパラメーターについては、「統合ガイド」をご参照ください。
トップレベルパラメーター
パラメーター | タイプ | 必須 | 例 | 説明 |
| String | はい |
| 検出サービス。有効な値:
|
| JSONString | はい | — | コンテンツ検出パラメーターを含む JSON 文字列。 |
ServiceParameters フィールド
パラメーター | タイプ | 必須 | 例 | 説明 |
| String | 条件付き |
| 審査する画像の URL。URL で送信する場合に必須です。 |
| String | 条件付き |
| 承認された Object Storage Service (OSS) バケットの名前。OSS で送信する場合に必須です。 |
| String | 条件付き |
| OSS バケット内の画像のオブジェクトキー。OSS で送信する場合に必須です。 |
| String | 条件付き |
| OSS バケットが配置されているリージョン。OSS で送信する場合に必須です。 |
| String | いいえ |
| 結果をビジネスデータと関連付けるための一意の識別子。英数字、アンダースコア、ハイフン、ピリオド。最大 64 文字。 |
| String | いいえ |
| 返却する追加情報を指定します。有効な値: |
| String | いいえ |
|
|
リクエスト例
{
"Service": "postImageCheckByVL_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img0307****"
}
}レスポンスパラメーター
トップレベルレスポンスフィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 一意のリクエスト ID。トラブルシューティングに使用されます。 |
| Integer |
| ステータスコード。 |
| String |
| レスポンスメッセージ。 |
| Object | — | 検出結果。 |
Data フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 全体的なリスクレベル。最高リスクのラベルに基づきます。有効な値: |
| String |
| リクエストからのデータ ID。リクエストで |
| Array | — | 検出されたリスクラベルの配列。各エントリには |
| Object | — | カスタムライブラリの一致を含む補足情報。 |
Result フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| リスクラベル。1 つの画像が複数のラベルに一致することがあります。 |
| Float |
| 信頼度スコア (0–100、小数点以下 2 桁)。スコアが高いほど信頼度が高いことを意味します。 |
| String |
| 人間が読めるラベルの説明。このフィールドは変更される可能性があるため、アクションを決定するには |
| String |
| このラベルのリスクレベル。設定されたスコアのしきい値に基づきます。有効な値: |
Ext フィールド
パラメーター | タイプ | 説明 |
| JSONArray | カスタムライブラリの一致詳細。送信された画像がライブラリエントリと一致した場合に返されます。 |
CustomImage フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 一致したカスタムライブラリの ID。 |
| String |
| 一致したカスタムライブラリの名前。 |
| String |
| ライブラリ内の一致した画像の ID。 |
レスポンス例
{
"RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477",
"Code": 200,
"Msg": "OK",
"Data": {
"RiskLevel": "high",
"DataId": "img0307****",
"Result": [
{
"Label": "violent_explosion",
"Confidence": 92.40,
"Description": "Fireworks content",
"RiskLevel": "high"
},
{
"Label": "violent_burning",
"Confidence": 67.15,
"Description": "Burning scenes",
"RiskLevel": "medium"
}
],
"Ext": {}
}
}リクエストとレスポンスの例は、読みやすさのためにフォーマットされています。実際の API レスポンスには、改行やインデントは含まれません。
リスクラベル
このサービスは、カテゴリ別にグループ化されたリスクラベルを返します。各ラベルには信頼度スコア (0–100) があります。スコアが高いほど信頼度が高いことを意味します。Content Moderation コンソールで個々のラベルを有効または無効にできます。
リスクレベルの理解と結果の処理
各ラベルには RiskLevel と Confidence があります。Data オブジェクトの RiskLevel は、すべてのラベルの中で最も高いリスクを反映しています。
RiskLevel を使用して、審査ワークフローをガイドします。
リスクレベル | 推奨されるアクション |
| コンテンツを直ちにブロックまたは削除 |
| 手動レビューに回す |
| ユースケースで高い再現率が必要な場合にのみ処理し、それ以外はリスクなしとして扱う |
| リスクは検出されませんでした |
信頼度のしきい値の調整: デフォルトのリスクスコアのしきい値は、ラベルが high、medium、または low に割り当てられるタイミングを決定します。しきい値を下げると再現率 (見逃される違反が少なくなる) が向上しますが、誤検知も増加します。しきい値を上げると精度が向上しますが、一部の違反を見逃す可能性があります。Content Moderation コンソールでラベルごとにしきい値を調整して、プラットフォームの誤検知と偽陰性に対する許容度に合わせてください。
返されたリスクラベルと信頼度スコアを保存します。これらを使用して、手動レビューの優先順位付け、アノテーションデータセットの構築、階層的なガバナンスポリシーの適用に役立ててください。
ラベルリファレンス
ラベルは以下のカテゴリにグループ化されています。_tii サフィックスは、視覚的なコンテンツではなく、画像内で検出されたテキスト (画像内テキスト) を示します。
ポルノコンテンツ (pornographic_*)
ラベル | 説明 |
| ポルノコンテンツが含まれている疑いのある画像。 |
| アダルトグッズのコンテンツが含まれている疑いのある画像。 |
| エロティックなアートワークのコンテンツが含まれている疑いのある画像。 |
| 未成年者のポルノコンテンツが含まれている疑いのある画像。 |
| 画像テキストにポルノコンテンツが含まれている疑い。 |
性的示唆のあるコンテンツ (sexual_*)
ラベル | 説明 |
| 下品または性的なヒントを含むコンテンツの疑いがある画像。 |
| 乳首の輪郭がわかるコンテンツの疑いがある画像。 |
| 女性の胸の谷間の特徴が含まれている疑いのある画像。 |
| 下着または水着のコンテンツが含まれている疑いのある画像。 |
| 男性の上半身裸のコンテンツが含まれている疑いのある画像。 |
| 肩のセクシーなコンテンツが含まれている疑いのある画像。 |
| 脚のセクシーなコンテンツが含まれている疑いのある画像。 |
| 妊娠または授乳のコンテンツが含まれている疑いのある画像。 |
| アニメのセクシーなコンテンツが含まれている疑いのある画像。 |
| 未成年者のセクシーなコンテンツが含まれている疑いのある画像。 |
| 足のセクシーなコンテンツが含まれている疑いのある画像。 |
政治的にデリケートなコンテンツ (political_*)
ラベル | 説明 |
| 歴史的ニヒリズムまたは不適切な歴史的出来事に関わる疑いのある画像。 |
| 歴史的ニヒリズムの疑いがある画像テキスト。 |
| 主要な指導者の比喩または別名が含まれている疑いのある画像テキスト。 |
| 画像テキストに指導者の名前が含まれています。 |
| 失脚した役人の名前が含まれている疑いのある画像テキスト。 |
| 不祥事を起こした有名人の名前が含まれている疑いのある画像テキスト。 |
| 不祥事を起こした、または非常に否定的な公人が含まれている疑いのある画像。 |
| 中国の国旗が含まれている疑いのある画像。 |
| 他の国旗が含まれている疑いのある画像。 |
| 中国の地図が含まれている疑いのある画像。 |
| 禁止されているメディアのロゴが含まれている疑いのある画像。 |
| 軍服または警察の制服が含まれている疑いのある画像。 |
| 国章または党の紋章が含まれている疑いのある画像。 |
| 現職または元職の指導者が含まれている疑いのある画像。 |
| 指導者の家族が関与している疑いのある画像。 |
| 省または市政府の職員が関与している疑いのある画像。 |
| 外国の指導者とその家族が関与している疑いのある画像。 |
| 国家レベルの失脚した役人が含まれている疑いのある画像。 |
| 省または市レベルの失脚した役人が含まれている疑いのある画像。 |
| 人種差別的な表現が含まれている疑いのある画像テキスト。 |
| 医療用の服装が含まれている疑いのある画像。 |
暴力・テロ (violent_*)
ラベル | 説明 |
| 群衆の集まりが含まれている疑いのある画像。 |
| 花火または爆発の要素が含まれている疑いのある画像。 |
| 軍隊の要素が含まれている疑いのある画像。 |
| 銃器が含まれている疑いのある画像。 |
| ナイフが含まれている疑いのある画像。 |
| 画像テキストに銃器またはナイフの記述が含まれています。 |
| 血なまぐさいコンテンツが含まれている疑いのある画像。 |
| 恐ろしいコンテンツが含まれている疑いのある画像。 |
| 暴力またはテロのコンテンツを記述している疑いのある画像テキスト。 |
| 燃えているコンテンツが含まれている疑いのある画像。 |
| 戦闘服が含まれている疑いのある画像。 |
禁止物 (contraband_*)
ラベル | 説明 |
| 薬物または医薬品に関わる疑いのある画像。 |
| 薬物、禁止物、または禁止品目を記述している疑いのある画像テキスト。 |
| ギャンブル用品が含まれている疑いのある画像。 |
| ギャンブル行為を記述している疑いのある画像テキスト。 |
| 証明書または現金化の広告トラフィック迂回が含まれている疑いのある画像テキスト。 |
| 禁止品目が含まれている疑いのある画像。 |
| 禁止物の記述が含まれている疑いのある画像テキスト。 |
宗教的なコンテンツ (religion_*)
ラベル | 説明 |
| 葬儀または追悼ホールのコンテンツが含まれている疑いのある画像。 |
| 仏教または道教の服装やシンボルが含まれている疑いのある画像。 |
| キリスト教の服装やシンボルが含まれている疑いのある画像。 |
| イスラム教の服装やシンボルが含まれている疑いのある画像。 |
| 画像テキストに宗教的な要素や情報が含まれています。 |
フラグ
ラベル | 説明 |
| 中国の国旗が含まれている疑いのある画像。 |
| 他の国旗が含まれている疑いのある画像。 |
スパムおよびプロモーションコンテンツ (pt_*)
ラベル | 説明 |
| 一般的なソーシャルネットワークプラットフォームのウォーターマークが含まれている疑いのある画像。 |
| QR コードが含まれている疑いのある画像。 |
| ミニアプリケーションコードが含まれている疑いのある画像。 |
| 画像テキストにトラフィック迂回のための連絡先情報が含まれています。 |
| 画像テキストにソーシャルプラットフォームのトラフィック迂回情報が含まれています。 |
| 画像テキストにショートビデオプラットフォームのトラフィック迂回情報が含まれています。 |
| 画像テキストに投資または金融広告情報が含まれています。 |
| 画像テキストにアルバイト募集広告情報が含まれています。 |
不適切な行為 (inappropriate_*)
ラベル | 説明 |
| 喫煙。 |
| 飲酒。 |
| タトゥー。 |
| 中指を立てるジェスチャー。 |
| 食品廃棄のコンテンツ。 |
| 未成年者のコンテンツ。 |
暴言 (profanity_*)
ラベル | 説明 |
| 画像テキストに下品または攻撃的な言葉が含まれています。 |
| 画像テキストに深刻な罵倒コンテンツが含まれています。 |
カスタム画像ライブラリのラベル
コンソールでカスタム画像ライブラリを設定します。送信された画像がライブラリの画像と一致すると、システムは _lib サフィックス付きのラベル (例:violent_explosion_lib) を返します。Confidence スコアは類似度を反映します。
リスクなしのラベル
ラベル | 信頼度スコア | 説明 |
| 返されません | 脅威は検出されなかったか、すべての検出カテゴリが無効になっています。 |
| 0–100 | 画像はカスタムライブラリ内の免除された画像と非常に類似しています。 |
ステータスコード
リクエストはステータスコード 200 の場合にのみ課金されます。
コード | 説明 |
| リクエストは成功しました。 |
| 必須パラメーターが空です。 |
| パラメーター値が無効です。 |
| パラメーターが最大長を超えています。修正して再試行してください。 |
| QPS 制限を超えました。同時実行数を減らして再試行してください。 |
| 画像のダウンロードに失敗しました。URL を確認するか、再試行してください。 |
| 画像のダウンロードがタイムアウトしました。アクセシビリティを確認して再試行してください。 |
| 画像ファイルが大きすぎます。サイズを変更して再試行してください。 |
| サポートされていない画像フォーマットです。サポートされているフォーマットを使用して再試行してください。 |
| 権限が不十分です。サービスの有効化、支払い遅延がないこと、RAM ユーザーが必要なポリシーを持っていることを確認してください。 |
| 内部システムエラーです。後で再試行してください。 |
課金
画像モデレーション 2.0 LLM 画像モデレーションサービスは、従量課金に対応しています。状態コード 200 以外が返されたリクエストは課金されません。
従量課金
Image Moderation 2.0 を有効化すると、デフォルトの課金方法は従量課金になります。料金は、実際の使用量に基づいて日次で精算されます。サービスの呼び出しがない場合、課金されません。
課金カテゴリ | 含まれるサービス | 単価 |
画像審査アドバンスト ( |
| 1,000 呼び出しあたり 1.20 米ドル 説明 左記のいずれかのサービスへの各呼び出しは、1 つの課金単位としてカウントされます。料金は実際の使用量に基づきます。たとえば、大小モデル融合画像審査サービス サービスへの 100 回の呼び出しには 0.12 米ドルがかかります。 |
画像審査中国本土版 ( |
| 1,000 呼び出しあたり 0.70 米ドル |
Content Moderation 2.0 の従量課金は、1日1回 (24時間以内) に精算されます。請求明細では、moderationType フィールドがモデレーションタイプを示します。請求明細を表示できます。
リソースプラン控除
大量または一貫した審査のニーズがある場合は、事前にリソースプランを購入してください。プランが大きいほど割引率が高くなります。複数のプランを同時に購入して使用できます。詳細については、「Content Moderation Enhanced Edition のリソースプランを購入する」をご参照ください。
このリソースプランは Content Moderation Enhanced Edition に適用されます。Content Moderation 1.0 のリソースプランと共有することはできません。控除率は以下の通りです。
タイプ | 控除率 |
画像審査アドバンスト (image_advanced) | 控除率: 4。各 API 呼び出しでリソースプランのクォータから 4 が控除されます。 例:100 呼び出しのクォータから 1 回の API 呼び出しを引くと、残高は 96 呼び出しになります。 |
画像審査中国本土版 (image_vl_standard_cn) | 控除率: 2.34。各 API 呼び出しでリソースプランのクォータから 2.34 が控除されます。 例:100 呼び出しのクォータから 1 回の API 呼び出しを引くと、残高は 97.66 呼び出しになります。 |
リソースプランのクォータは、従量課金請求の前に適用されます。クォータが使い果たされると、使用量は従量課金ベースで請求されます。リソースプランの残高と従量課金の請求書を監視してください。Alibaba Cloud ユーザーセンターのリソースプランシステムで残高低下アラートを設定できます。