イメージモデレーション 2.0 は、カスタムトレーニングされた Qwen 大規模言語モデル (LLM) とエキスパートモデルを組み合わせることで、画像に含まれるポルノ、性的内容を示唆するコンテンツ、政治的に敏感なコンテンツ、暴力とテロ、禁制品、宗教的なコンテンツ、広告トラフィックと迷惑メール、不適切なコンテンツ、その他のリスクカテゴリなどの違反コンテンツを検出します。 また、このサービスは LLM の生の結果を返すこともサポートしています。 このトピックでは、イメージモデレーションサービスを有効化して呼び出す方法について説明します。
画像審査モデルは現在、活発に開発が進められています。フィードバックを提供するには、ビジネス担当者にお問い合わせください。
仕組み
画像モデレーション 2.0 は、画像コンテンツのリスク特性に基づいてカスタムトレーニングされた Qwen LLM を使用し、以下の画像モデレーションサービスを提供します:
Image Moderation for Large and Small Model Integration:
Combines large and expert models to detect a wide range of non-compliant content in images, such as pornography, suggestive material, politically sensitive content, violence, terrorism, prohibited items, religious content, spam, and other undesirable content. (Note: All large model inference is processed in the Singapore region.)検出カテゴリの詳細については、Rules をご参照ください。
大小モデル統合画像審査サービスの中国本土版 (postImageCheckByVL_ec):
Uses large models and expert models to comprehensively detect non-compliant content in images, including pornography, suggestive material, political content, violence and terrorism, prohibited items, religious content, spam, and other harmful content.中国本土リージョン向けに調整された画像審査サービスで、詳細なリスクラベルとローカライズされたコンテンツ理解を提供します。検出カテゴリの詳細については、Rules をご参照ください。
米国 (バージニア)、ドイツ (フランクフルト)、中国 (香港) リージョンでは、LLM 推論はシンガポールで実行されます。データとログは、それぞれのリージョン (フランクフルトと香港) にローカルで保存されます。
サービスの選択
サービス | 説明 | サポートされているリージョン | ユースケース |
Image Moderation for Large and Small Model Integration( | LLM とエキスパートモデルを組み合わせて、ポルノのサブカテゴリ、特定の行動、特定のオブジェクトなど、より詳細なラベルを提供します。より広い検出範囲と豊富なラベルを提供します。低い誤検知率と偽陰性率を提供します。 | シンガポール、中国 (香港)、米国 (バージニア)、ドイツ (フランクフルト) | 厳格なリスク管理と詳細なポリシーを必要とするソーシャルメディア、ライブストリーミング、ゲーム、e コマース、教育ビジネス。詳細なリスクラベルを必要とするビジネス。高いパフォーマンス要件を持つ新規ユーザーに強く推奨されます。 |
postImageCheckByVL_ec | 中国本土に参入する越境ビジネス向けに設計されています。Image Moderation for Large and Small Model Integration サービスを拡張し、中国語のコンテキストと国内の規制コンプライアンス要件に最適化されています。 | 中国 (上海)、中国 (杭州)、中国 (北京)、中国 (深セン)、中国 (成都) |
|
前提条件
開始する前に、以下を確認してください。
アクティブな Image Moderation 2.0 のサブスクリプション (従量課金)
AliyunYundunGreenWebFullAccessポリシーを持つ Alibaba Cloud アカウントまたは RAM ユーザー認証用の AccessKey ペア
はじめに
ステップ 1:サービスの有効化
サービス有効化ページにアクセスし、画像モデレーション 2.0 を有効化します。有効化後、デフォルトの課金方法は従量課金です。料金は、実際の使用量に基づいて毎日決済されます。サービスを呼び出さない場合、課金されません。課金方法の詳細については、「課金」をご参照ください。
ステップ 2:RAM ユーザーへの権限付与
Alibaba Cloud アカウントまたは RAM ユーザーの AccessKey ペアを作成します。RAM ユーザーは、Content Moderation API を呼び出すために AliyunYundunGreenWebFullAccess ポリシーを持っている必要があります。
Alibaba Cloud アカウントまたは RAM 管理者として RAM コンソールにログインします。
RAM ユーザーを作成します。詳細については、RAM ユーザーの作成をご参照ください。
AliyunYundunGreenWebFullAccessポリシーを RAM ユーザーにアタッチします。詳細については、RAM ユーザーの権限管理をご参照ください。
ステップ 3:SDK のインストール
Image Moderation SDK と統合ガイドに従って SDK をインストールし、エンドポイントを設定します。
次の表に、サポートされているすべてのリージョンとエンドポイントを示します。
リージョン | パブリックエンドポイント | VPC エンドポイント | サポートされているサービス |
中国 (上海) | green-cip.cn-shanghai.aliyuncs.com | green-cip-vpc.cn-shanghai.aliyuncs.com | postImageCheckByVL_ec |
中国 (杭州) | green-cip.cn-hangzhou.aliyuncs.com | green-cip-vpc.cn-hangzhou.aliyuncs.com | postImageCheckByVL_ec |
中国 (北京) | green-cip.cn-beijing.aliyuncs.com | green-cip-vpc.cn-beijing.aliyuncs.com | postImageCheckByVL_ec |
中国 (深セン) | green-cip.cn-shenzhen.aliyuncs.com | green-cip-vpc.cn-shenzhen.aliyuncs.com | postImageCheckByVL_ec |
中国 (成都) | green-cip.cn-chengdu.aliyuncs.com | N/A | postImageCheckByVL_ec |
シンガポール | green-cip.ap-southeast-1.aliyuncs.com | green-cip-vpc.ap-southeast-1.aliyuncs.com | postImageCheckByVL_global |
中国 (香港) | green-cip.cn-hongkong.aliyuncs.com | green-cip-vpc.cn-hongkong.aliyuncs.com | |
米国 (バージニア) | green-cip.us-east-1.aliyuncs.com | green-cip-vpc.us-east-1.aliyuncs.com | |
ドイツ (フランクフルト) | green-cip.eu-central-1.aliyuncs.com | green-cip-vpc.eu-central-1.aliyuncs.com |
ドイツ (フランクフルト) および中国 (香港) リージョンでは、LLM 推論はシンガポールリージョンで実行されます。データとログは、それぞれのリージョン (フランクフルトと香港) にローカルで保存されます。
ステップ 4:検出ルールの設定 (任意)
Content Moderation コンソールで、検出カテゴリの有効化または無効化、サービスのコピー、カスタムイメージライブラリの設定、カスタム用語集の設定、検出レコードのクエリ、使用量データの確認などの検出ルールを設定します。 詳細については、「コンソールガイド」をご参照ください。
API リファレンス
API 概要
API:
ImageModerationサービスコード:
postImageCheckByVL_global,postImageCheckByVL_ecQPS 制限:ユーザーあたり 50 コール/秒。この制限を超えるとリクエストがスロットルされます。クォータの引き上げについては、ビジネス担当者にお問い合わせください。
課金:成功したリクエスト (HTTP 200) ごとに課金され、毎日決済されます。料金はサービスによって異なります。詳細については、課金セクションをご参照ください。
API のデバッグ
統合前に、Alibaba Cloud OpenAPI オンラインデバッグを使用して、 および Image Moderation 2.0 API を試すことができます。また、サンプルコードと SDK の依存関係情報を確認することで、これらの API とそのパラメーターの使用方法の概要を把握できます。
オンラインデバッガーを介した API 呼び出しは課金されます。
画像要件
制約 | 制限 |
サポートされているフォーマット | PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC (最長辺 < 8,192 px)、GIF (最初のフレーム)、ICO (最後の画像) |
最大ファイルサイズ | 20 MB |
最大ディメンション | 16,384 px (高さまたは幅); 合計 2 億 5000 万ピクセル |
最適な解像度 | 少なくとも 200 x 200 px (解像度が低いと精度が低下します) |
ダウンロードタイムアウト | 3 秒 |
URL の制限 | 一般にアクセス可能; 最大 2,048 文字; 中国語文字なし; リクエストごとに 1 つの URL |
画像の送信
リクエストごとに以下のいずれかの方法で画像を送信します。
メソッド | 必須パラメーター | 注 |
URL |
| URL は一般にアクセス可能である必要があります |
OSS 権限付与 |
| クラウドリソースアクセス権限付与ページで |
ローカルアップロード | SDK 経由でアップロード | ファイルはアップロード後 30 分で削除されます; OSS ストレージを消費しません。コード例については、Image Moderation SDK ガイドをご参照ください。 |
リクエストパラメーター
リクエストボディは JSON オブジェクトです。必須の共通リクエストパラメーターについては、統合ガイドをご参照ください。
トップレベルパラメーター
パラメーター | タイプ | 必須 | 例 | 説明 |
| String | はい |
| 検出サービス。有効な値:
|
| JSONString | はい | — | コンテンツ検出パラメーターを含む JSON 文字列。 |
ServiceParameters フィールド
パラメーター | タイプ | 必須 | 例 | 説明 |
| String | 条件付き |
| 審査する画像の URL。URL で送信する場合に必須です。 |
| String | 条件付き |
| 権限が付与された Object Storage Service (OSS) バケットの名前。OSS で送信する場合に必須です。 |
| String | 条件付き |
| OSS バケット内の画像のオブジェクトキー。OSS で送信する場合に必須です。 |
| String | 条件付き |
| OSS バケットが配置されているリージョン。OSS で送信する場合に必須です。 |
| String | いいえ |
| 結果をビジネスデータに関連付けるための一意の識別子。英数字、アンダースコア、ハイフン、ピリオド。最大 64 文字。 |
| String | いいえ |
| 返す追加情報を指定します。有効な値: |
| String | いいえ |
|
|
リクエスト例
{
"Service": "postImageCheckByVL_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img0307****"
}
}レスポンスパラメーター
トップレベルのレスポンスフィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 一意のリクエスト ID。トラブルシューティングに使用されます。 |
| Integer |
| ステータスコード。 |
| String |
| レスポンスメッセージ。 |
| Object | — | 検出結果。 |
Data フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 全体的なリスクレベル。最もリスクの高いラベルに基づきます。有効な値: |
| String |
| リクエストからのデータ ID。リクエストで |
| Array | — | 検出されたリスクラベルの配列。各エントリには |
| Object | — | カスタムライブラリの一致を含む補足情報。 |
Result フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| リスクラベル。1 つの画像が複数のラベルに一致する場合があります。 |
| Float |
| 信頼度スコア (0~100、小数点以下 2 桁)。スコアが高いほど信頼度が高くなります。 |
| String |
| 人間が読めるラベルの説明。このフィールドは変更される可能性があるため、アクションを決定するには |
| String |
| このラベルのリスクレベル。設定されたスコアのしきい値に基づきます。有効な値: |
Ext フィールド
パラメーター | タイプ | 説明 |
| JSONArray | カスタムライブラリの一致詳細。送信された画像がライブラリエントリと一致した場合に返されます。 |
CustomImage フィールド
パラメーター | タイプ | 例 | 説明 |
| String |
| 一致したカスタムライブラリの ID。 |
| String |
| 一致したカスタムライブラリの名前。 |
| String |
| ライブラリ内の一致した画像の ID。 |
レスポンス例
{
"RequestId": "70ED13B0-BC22-576D-9CCF-1CC12FEAC477",
"Code": 200,
"Msg": "OK",
"Data": {
"RiskLevel": "high",
"DataId": "img0307****",
"Result": [
{
"Label": "violent_explosion",
"Confidence": 92.40,
"Description": "Fireworks content",
"RiskLevel": "high"
},
{
"Label": "violent_burning",
"Confidence": 67.15,
"Description": "Burning scenes",
"RiskLevel": "medium"
}
],
"Ext": {}
}
}リクエストとレスポンスの例は、読みやすさのためにフォーマットされています。実際の API レスポンスには、改行やインデントは含まれません。
リスクラベル
サービスは、カテゴリ別にグループ化されたリスクラベルを返します。各ラベルには信頼度スコア (0~100) があります。スコアが高いほど信頼度が高くなります。Content Moderation コンソールで個々のラベルを有効または無効にできます。
リスクレベルの理解と結果の処理
各ラベルには RiskLevel と Confidence があります。Data オブジェクトの RiskLevel は、すべてのラベルの中で最も高いリスクを反映しています。
RiskLevel を使用して、モデレーションワークフローをガイドします。
リスクレベル | 推奨されるアクション |
| コンテンツを直ちにブロックまたは削除する |
| 手動レビューに回す |
| ユースケースが高い再現率を必要とする場合にのみ処理し、それ以外はリスクなしとして扱う |
| リスクは検出されませんでした |
信頼度のしきい値の調整: デフォルトのリスクスコアのしきい値は、ラベルが high、medium、または low に割り当てられるタイミングを決定します。しきい値を下げると再現率 (見逃される違反が少なくなる) が向上しますが、誤検知も増加します。しきい値を上げると適合率が向上しますが、一部の違反を見逃す可能性があります。Content Moderation コンソールでラベルごとのしきい値を調整して、プラットフォームの誤検知と偽陰性に対する許容度に合わせてください。
返されたリスクラベルと信頼度スコアを保存します。これらを使用して、手動レビューの優先順位付け、アノテーションデータセットの構築、階層的なガバナンスポリシーの適用を行います。
ラベルリファレンス
ラベルは以下のカテゴリにグループ化されています。_tii サフィックスは、視覚的なコンテンツではなく、画像内で検出されたテキスト (画像内テキスト) を示します。
ポルノコンテンツ (pornographic_*)
ラベル | 説明 |
| 画像にポルノコンテンツが含まれている疑いがあります。 |
| 画像にアダルトトイのコンテンツが含まれている疑いがあります。 |
| 画像にエロティックなアートワークのコンテンツが含まれている疑いがあります。 |
| 画像に未成年のポルノコンテンツが含まれている疑いがあります。 |
| 画像テキストにポルノコンテンツが含まれている疑いがあります。 |
性的に示唆的なコンテンツ (sexual_*)
ラベル | 説明 |
| 画像に下品または性的なヒントのコンテンツが含まれている疑いがあります。 |
| 画像に乳首の輪郭のコンテンツが含まれている疑いがあります。 |
| 画像に女性の胸の谷間の特徴が含まれている疑いがあります。 |
| 画像に下着または水着のコンテンツが含まれている疑いがあります。 |
| 画像に男性の上半身裸のコンテンツが含まれている疑いがあります。 |
| 画像にセクシーなコンテンツ (肩の露出) が含まれている疑いがあります。 |
| 画像に脚のセクシーなコンテンツが含まれている疑いがあります。 |
| 画像に妊娠または授乳のコンテンツが含まれている疑いがあります。 |
| 画像に漫画のセクシーなコンテンツが含まれている疑いがあります。 |
| 画像に未成年のセクシーなコンテンツが含まれている疑いがあります。 |
| 画像に足のセクシーなコンテンツが含まれている疑いがあります。 |
政治的に敏感なコンテンツ (political_*)
ラベル | 説明 |
| 画像に歴史的ニヒリズムまたは不適切な歴史的出来事が含まれている疑いがあります。 |
| 画像テキストに歴史的ニヒリズムの疑いがあります。 |
| 画像テキストに主要な指導者の比喩または別名が含まれている疑いがあります。 |
| 画像テキストに指導者の名前が含まれています。 |
| 画像テキストに失脚した役人の名前が含まれている疑いがあります。 |
| 画像テキストに問題のある有名人の名前が含まれている疑いがあります。 |
| 画像に問題のある、または非常に否定的な公人が含まれている疑いがあります。 |
| 画像に中国の国旗が含まれている疑いがあります。 |
| 画像に他の国の国旗が含まれている疑いがあります。 |
| 画像に中国の地図が含まれている疑いがあります。 |
| 画像に禁止されたメディアのロゴが含まれている疑いがあります。 |
| 画像に軍服または警察の制服が含まれている疑いがあります。 |
| 画像に国または党の紋章が含まれている疑いがあります。 |
| 画像に現職または元職の指導者が含まれている疑いがあります。 |
| 画像に指導者の家族が含まれている疑いがあります。 |
| 画像に州または市政府の職員が含まれている疑いがあります。 |
| 画像に外国の指導者とその家族が含まれている疑いがあります。 |
| 画像に国家レベルの失脚した役人が含まれている疑いがあります。 |
| 画像に州または市レベルの失脚した役人が含まれている疑いがあります。 |
| 画像テキストに人種差別的な表現が含まれている疑いがあります。 |
| 画像に医療用の服装が含まれている疑いがあります。 |
暴力およびテロ (violent_*)
ラベル | 説明 |
| 画像に群衆の集まりが含まれている疑いがあります。 |
| 画像に花火または爆発の要素が含まれている疑いがあります。 |
| 画像に武装勢力の要素が含まれている疑いがあります。 |
| 画像に銃器が含まれている疑いがあります。 |
| 画像にナイフが含まれている疑いがあります。 |
| 画像テキストに銃器またはナイフの説明が含まれています。 |
| 画像に血まみれのコンテンツが含まれている疑いがあります。 |
| 画像に恐ろしいコンテンツが含まれている疑いがあります。 |
| 画像テキストに暴力またはテロのコンテンツが記述されている疑いがあります。 |
| 画像に燃えているコンテンツが含まれている疑いがあります。 |
| 画像に戦闘服が含まれている疑いがあります。 |
禁制品 (contraband_*)
ラベル | 説明 |
| 画像に薬物または医薬品が含まれている疑いがあります。 |
| 画像テキストに薬物、禁制品、または禁止品目が記述されている疑いがあります。 |
| 画像にギャンブル用品が含まれている疑いがあります。 |
| 画像テキストにギャンブル行為が記述されている疑いがあります。 |
| 画像テキストに証明書または現金化広告トラフィック迂回が含まれている疑いがあります。 |
| 画像に禁制品が含まれている疑いがあります。 |
| 画像テキストに禁制品の説明が含まれている疑いがあります。 |
宗教的なコンテンツ (religion_*)
ラベル | 説明 |
| 画像に葬儀または追悼ホールのコンテンツが含まれている疑いがあります。 |
| 画像に仏教または道教の服装またはシンボルが含まれている疑いがあります。 |
| 画像にキリスト教の服装またはシンボルが含まれている疑いがあります。 |
| 画像にイスラム教の服装またはシンボルが含まれている疑いがあります。 |
| 画像テキストに宗教的な要素または情報が含まれています。 |
国旗
ラベル | 説明 |
| 画像に中国の国旗が含まれている疑いがあります。 |
| 画像に他の国の国旗が含まれている疑いがあります。 |
スパムおよびプロモーションコンテンツ (pt_*)
ラベル | 説明 |
| 画像に一般的なソーシャルネットワークプラットフォームのウォーターマークが含まれている疑いがあります。 |
| 画像に QR コードが含まれている疑いがあります。 |
| 画像にミニアプリケーションコードが含まれている疑いがあります。 |
| 画像テキストにトラフィック迂回のための連絡先情報が含まれています。 |
| 画像テキストにソーシャルプラットフォームのトラフィック迂回情報が含まれています。 |
| 画像テキストにショートビデオプラットフォームのトラフィック迂回情報が含まれています。 |
| 画像テキストに投資または金融広告情報が含まれています。 |
| 画像テキストにパートタイムの求人広告情報が含まれています。 |
不適切な行為 (inappropriate_*)
ラベル | 説明 |
| 喫煙。 |
| 飲酒。 |
| タトゥー。 |
| 中指を立てるジェスチャー。 |
| 食品廃棄のコンテンツ。 |
| 未成年コンテンツ。 |
冒とく的な表現 (profanity_*)
ラベル | 説明 |
| 画像テキストに下品または攻撃的な言葉が含まれています。 |
| 画像テキストに深刻な罵詈雑言のコンテンツが含まれています。 |
カスタム画像ライブラリのラベル
コンソールでカスタム画像ライブラリを設定します。送信された画像がライブラリ画像と一致すると、システムは _lib サフィックスが付いたラベル (例: violent_explosion_lib) を返します。Confidence スコアは類似度を反映します。
リスクなしのラベル
ラベル | 信頼度スコア | 説明 |
| 返されません | 脅威は検出されなかったか、すべての検出カテゴリが無効になっています。 |
| 0–100 | 画像はカスタムライブラリ内の免除された画像と非常に類似しています。 |
ステータスコード
リクエストはステータスコード 200 の場合にのみ課金されます。
コード | 説明 |
| リクエストは成功しました。 |
| 必須パラメーターが空です。 |
| パラメーター値が無効です。 |
| パラメーターが最大長を超えています。修正してリトライしてください。 |
| QPS 制限を超えました。同時実行数を減らしてリトライしてください。 |
| 画像のダウンロードに失敗しました。URL を確認するか、リトライしてください。 |
| 画像のダウンロードがタイムアウトしました。アクセシビリティを確認してリトライしてください。 |
| 画像ファイルが大きすぎます。サイズを変更してリトライしてください。 |
| サポートされていない画像フォーマットです。サポートされているフォーマットを使用してリトライしてください。 |
| 権限が不十分です。サービスの有効化、支払い遅延がないこと、RAM ユーザーが必要なポリシーを持っていることを確認してください。 |
| 内部システムエラーです。後でリトライしてください。 |
課金
画像モデレーション 2.0 LLM 画像モデレーションサービスは、従量課金による課金に対応しています。 200 以外の状態コードを返すリクエストは課金されません。
従量課金
画像審査 2.0 を有効化すると、デフォルトの課金方法は従量課金です。料金は、実際の使用量に基づいて毎日精算されます。サービスの呼び出しがない場合、課金されません。
課金カテゴリ | 含まれるサービス | 単価 |
画像審査アドバンスト ( |
| 1,000 コールあたり 1.20 米ドル 説明 左にリストされているいずれかのサービスへの各呼び出しは、1 つの課金単位としてカウントされます。料金は実際の使用量に基づきます。たとえば、Image Moderation for Large and Small Model Integration サービスへの 100 回の呼び出しには 0.12 米ドルがかかります。 |
画像審査中国本土版 ( |
| 1,000 コールあたり 0.70 米ドル |
Content Moderation 2.0 の従量課金は、1日1回 (24時間以内)に精算されます。 請求明細では、moderationType フィールドでモデレーションの種類が示されます。 請求明細をご参照ください。
リソースプランによる控除
大量または一貫したモデレーションのニーズがある場合は、事前にリソースプランを購入してください。プランが大きいほど割引率が高くなります。複数のプランを同時に購入して使用できます。詳細については、Content Moderation Enhanced Edition のリソースプランの購入をご参照ください。
このリソースプランは Content Moderation Enhanced Edition に適用されます。Content Moderation 1.0 のリソースプランと共有することはできません。控除率は次のとおりです。
タイプ | 控除率 |
画像審査アドバンスト (image_advanced) | 控除率: 4。各 API 呼び出しで、リソースプランのクォータから 4 が控除されます。 例: 100 コールのクォータから 1 回の API 呼び出しを引くと、残りは 96 コールになります。 |
画像審査中国本土版 (image_vl_standard_cn) | 控除率: 2.34。各 API 呼び出しで、リソースプランのクォータから 2.34 が控除されます。 例: 100 コールのクォータから 1 回の API 呼び出しを引くと、残りは 97.66 コールになります。 |
リソースプランのクォータは、従量課金の前に適用されます。クォータが使い果たされると、使用量は従量課金で請求されます。リソースプランの残高と従量課金の請求書を監視してください。Alibaba Cloud ユーザーセンターのリソースプランシステムで残高低下アラートを設定できます。