Alibaba Cloud コンテンツモデレーションの画像モデレーション2.0 は、AI 生成コンテンツ (AIGC) および偽造が関わるシナリオ向けの画像検出サービスを提供します。このサービスにより、画像が AIGC によって生成されたものかどうかを判断できます。このトピックでは、画像モデレーションサービスの AIGC および偽造検出機能について説明します。
1. ユースケース
Alibaba Cloud コンテンツモデレーションは、AIGC モデレーションおよび AI を利用した偽造検出に特化した、以下の専用検出サービスを提供します。
AI 生成コンテンツ検出：
AIGC image detection：AIGC 技術の進化に伴い、生成された画像はユーザー生成コンテンツ (UGC) との区別がつきにくくなっています。多くのプラットフォームでは、画像が AI によって生成されたものかどうかを判断する必要があります。この課題に対応するため、Alibaba Cloud コンテンツモデレーションは AI 生成画像検出機能を提供します。この機能は、画像の合成アーティファクトを分析し、生成または合成された疑いのあるコンテンツが含まれているかどうかを判断します。
2. サービスの説明
画像モデレーション 2.0 の AIGC および偽造検出機能は、以下のサービスをサポートしています。
シナリオ | サービス | 検出内容 | シナリオ |
AI 生成コンテンツ検出 | サービス名：AIGC image detection サービス：aigcDetector_global | 検出対象：画像。 検出内容：画像が AI によって生成または合成された可能性が高いかを検出します。 | このサービスは、画像が AIGC によって生成されたものかどうかを判断します。画像のソースを特定する必要がある場合、このサービスを使用します。 |
サービス名：AI-Generated Image Detection Ultimate Edition サービス：aigcDetector_ultra_global | 検出対象：画像。 検出内容：画像が AI によって生成または合成された可能性が高いか、合成画像 (合成顔を含む) の疑いがあるか、またはAI による局所編集の疑いがあるかを検出します。 | 画像が偽造されているかどうかを判断します。このサービスを使用して、画像の偽造、特に AI による局所編集の可能性をチェックします。 |
3. 課金
画像モデレーション 2.0 の AIGC および偽造検出サービスは、従量課金の課金方法をサポートしています。
従量課金
画像モデレーションV2.0 サービスを有効化すると、デフォルトの課金方法は従量課金になります。実際の使用量に基づいて毎日請求されます。サービスを呼び出さない場合、料金は発生しません。
モデレーションタイプ | サポートされるビジネスシナリオ (サービス) | 単価 |
一般画像モデレーション (image_standard) |
| 1,000 呼び出しあたり 0.60 USD 説明 AIGC 生成画像識別サービスへの各呼び出しは、1 回の呼び出しとしてカウントされます。実際の呼び出し数に基づいて課金されます。たとえば、AIGC 生成画像識別サービスを 100 回呼び出した場合、0.06 USD が課金されます。 |
高度な画像偽造モデレーション (image_identify_standard_cn) |
| 1,000 呼び出しあたり 0.60 USD 説明 aigc 画像検出 (Ultimate Edition) サービスへの各呼び出しに対して課金されます。たとえば、aigc 画像検出 (Ultimate Edition) サービスを 100 回呼び出した場合、0.06 USD が課金されます。 |
コンテンツモデレーション 2.0 の従量課金モードの請求書は、24 時間ごとに生成されます。請求明細では、moderationType がモデレーションタイプフィールドに対応します。詳細については、「請求明細」をご参照ください。
4. 統合
ステップ 1：サービスの有効化
サービス有効化ページに移動して、画像モデレーション2.0 サービスを有効化します。
画像モデレーション2.0 サービスを有効化すると、デフォルトの課金方法は従量課金になります。料金は実際の使用量に基づいて毎日決済されます。サービスを呼び出さない場合、料金は発生しません。API を呼び出すと、システムは使用量に基づいて自動的に請求書を生成します。詳細については、「課金の詳細」をご参照ください。
ステップ 2：RAM ユーザーへの権限付与
API オペレーションを呼び出すか、SDK を使用する前に、RAM ユーザーに権限を付与する必要があります。Alibaba Cloud アカウントまたは RAM ユーザー用の AccessKey ペアを作成する必要があります。API オペレーションを呼び出すときは、AccessKey ペアを使用して ID 検証を完了する必要があります。AccessKey ペアを取得するには、「AccessKey ペアの取得」をご参照ください。
Alibaba Cloud アカウントまたは RAM 管理者としてRAM コンソールにログインします。
RAM ユーザーを作成します。詳細については、「RAM ユーザーの作成」をご参照ください。
`AliyunYundunGreenWebFullAccess` システムポリシーを RAM ユーザーに付与します。詳細については、「RAM ユーザーへの権限付与」をご参照ください。これらの構成を完了すると、RAM ユーザーとしてコンテンツモデレーション API を呼び出すことができます。
ステップ 3：SDK のインストールと統合
詳細については、「画像モデレーション 2.0 SDK と使用ガイド」をご参照ください。次の表に、サポートされているリージョンを示します。
リージョン | パブリックエンドポイント | VPC エンドポイント | サポートされるサービス |
シンガポール | https://green-cip.ap-southeast-1.aliyuncs.com | https://green-cip-vpc.ap-southeast-1.aliyuncs.com | aigcDetector_global |
米国 (バージニア) | green-cip.us-east-1.aliyuncs.com | green-cip-vpc.us-east-1.aliyuncs.com | |
米国 (シリコンバレー) | green-cip.us-west-1.aliyuncs.com | なし | |
ロンドン | green-cip.eu-west-1.aliyuncs.com | なし |
ステップ 4：画像モデレーションルールの調整 (オプション)
コンテンツモデレーションコンソールでは、画像モデレーションサービスの検出ルールを調整できます。検出範囲の切り替え、サービスのコピー、カスタム画像ライブラリとボキャブラリの設定、検出記録と使用状況のクエリが可能です。詳細については、「コンソール操作ガイド」をご参照ください。
5. API
使用上の注意
この API を呼び出して、画像モデレーションタスクを作成できます。HTTP リクエストの構築方法の詳細については、「アクセスガイド」をご参照ください。事前に構築された HTTP リクエストを使用することもできます。詳細については、「アクセスガイド」をご参照ください。
API オペレーション：ImageModeration
課金情報：これは有料のオペレーションです。HTTP ステータスコード 200 を返すリクエストに対してのみ課金されます。他のエラーコードを返すリクエストは課金されません。課金方法の詳細については、「課金概要」をご参照ください。
画像要件：
サポートされている画像フォーマットは、PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC (最長辺が 8,192 ピクセル未満である必要があります)、GIF (最初のフレームのみ処理されます)、ICO (最後の画像のみ処理されます) です。
画像サイズは 20 MB を超えることはできません。高さまたは幅は 16,384 ピクセルを超えることはできず、総ピクセル数は 2 億 5000 万を超えることはできません。検出アルゴリズムの有効性を確保するために、少なくとも 200 × 200 ピクセルの解像度の画像を使用することを推奨します。
画像のダウンロード時間は 3 秒に制限されています。ダウンロードに 3 秒以上かかる場合、タイムアウトエラーが返されます。
QPS 制限
この API オペレーションの秒間クエリ数 (QPS) 制限は、各ユーザーに対して 100 です。ただし、aigcDetector_ultra_global サービスの場合、制限は 20 QPS です。これらの制限を超える API 呼び出しはスロットリングされ、ビジネスに影響を与える可能性があります。API 呼び出しのペースを適宜調整してください。高いワークロードがある場合や、緊急にスケールアップする必要がある場合は、ビジネス マネージャーに連絡して、より高い QPS 制限をリクエストしてください。
デバッグ
開始する前に、Alibaba Cloud OpenAPI Explorer を使用して、または画像モデレーション 2.0 API をオンラインでテストできます。また、サンプルコードと SDK 依存関係を表示して、API とそのパラメーターの使用方法を理解することもできます。
オンラインデバッグ機能は、現在ログインしているアカウントを使用してコンテンツモデレーション API オペレーションを呼び出します。したがって、呼び出しは課金対象の使用量に含まれます。
リクエストパラメーター
リクエストに必要な共通パラメーターについては、「アクセスガイド」をご参照ください。
リクエストボディは、次のフィールドを含む JSON 構造体です。
名前 | タイプ | 必須 | 例 | 説明 |
Service | String | はい | aigcDetectorFull | 検出サービス。有効な値：
|
ServiceParameters | JSONString | はい | コンテンツモデレーションオブジェクトのパラメーターセットで、JSON 文字列として提供されます。各文字列の説明については、「表 1. ServiceParameters」をご参照ください。 |
表 1. ServiceParameters
名前 | タイプ | 必須 | 例 | 説明 |
imageUrl | String | はい。画像モデレーション 2.0 は、画像をアップロードする 3 つの方法をサポートしています。
| https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png | 検出対象のオブジェクトの URL。URL がパブリックネットワーク経由でアクセス可能であり、長さが 2,048 文字以下であることを確認してください。 注 URL には中国語の文字を含めることはできません。リクエストごとに 1 つの URL のみを送信してください。 |
ossBucketName | String | bucket_01 | 権限が付与された OSS バケットの名前。 説明 画像の内部 OSS URL を使用するには、まずルートアカウントを使用してクラウドリソースアクセス承認ページに移動し、 | |
ossObjectName | String | 2022023/04/24/test.jpg | 権限が付与された OSS バケット内のファイルの名前。 | |
ossRegionId | String | cn-beijing | OSS バケットが配置されているリージョン。 | |
dataId | String | いいえ | img123**** | 検出対象のデータ ID。 ID には、大文字、小文字、数字、アンダースコア (_)、ハイフン (-)、ピリオド (.) を含めることができます。長さは最大 64 文字で、ビジネスデータを一意に識別するために使用できます。 |
referer | String | いいえ | www.aliyun.com | referer リクエストヘッダー。ホットリンク保護などのシナリオで使用されます。長さは 256 文字を超えることはできません。 |
infoType | String | はい | aigcData | 返される補助情報のタイプ。有効な値：
複数のタイプを指定するには、 |
レスポンスパラメーター
名前 | タイプ | 例 | 説明 |
RequestId | String | 70ED13B0-BC22-576D-9CCF-1CC12FEAC477 | 現在のリクエストの ID。これは Alibaba Cloud によってリクエストに対して生成された一意の識別子であり、トラブルシューティングに使用できます。 |
Data | Object | 画像モデレーションの結果。詳細については、「表 2. Data」をご参照ください。 | |
Code | Integer | 200 | 返された HTTP ステータスコード。詳細については、「レスポンスコード」をご参照ください。 |
Msg | String | OK | 現在のリクエストに対するレスポンスメッセージ。 |
表 2. Data
名前 | タイプ | 例 | 説明 |
Result | Array | リスクラベルや信頼度スコアなど、画像モデレーションのパラメーター結果。詳細については、「表 3. result」をご参照ください。 | |
RiskLevel | String | high | 設定された高リスクおよび低リスクスコアに基づいて返されるリスクレベル。有効な値：
説明 高リスクのコンテンツは直接処理することを推奨します。中リスクのコンテンツは手動でレビューする必要があります。低リスクのコンテンツは、高い再現率が必要な場合にのみ処理してください。それ以外の場合は、リスクが検出されなかったコンテンツと同様に扱います。コンテンツモデレーションコンソールでリスクスコアを設定できます。 |
DataId | String | img123****** | 検出対象のデータ ID。 説明 リクエストパラメーターで dataId を渡した場合、同じ dataId がここに返されます。 |
Ext | Object | 画像の追加情報。詳細については、「Ext」をご参照ください。 |
表 3. result
名前 | タイプ | 例 | 説明 |
Label | String | tm_auto | 画像コンテンツ検出後に返されるラベル。1 つの画像に対して複数のラベルとスコアが返される場合があります。サポートされているラベルについては、以下をご参照ください。 |
Confidence | Float | 81.22 | 信頼度スコアは 0 から 100 の範囲で、小数点以下 2 桁まで正確です。一部のラベルには信頼度スコアがありません。詳細については、「リスクラベルの説明」をご参照ください。 |
Description | String | 花火と火工品 | Label フィールドの説明。 重要 このフィールドは Label フィールドを説明するものであり、変更される可能性があります。このフィールドではなく、Label フィールドに基づいて結果を処理することを推奨します。 |
表 4： Ext
パラメーター | タイプ | 値 | 説明 |
CustomImage | JSONArray | カスタムライブラリで一致が見つかった場合、このパラメーターはそのライブラリの詳細を返します。詳細については、「CustomImage」をご参照ください。 | |
AigcData | Object | 画像の AIGC 暗黙的マーカー検出結果を返します。詳細については、「AigcData」をご参照ください。 |
表 5. CustomImage
パラメーター | タイプ | 値の例 | 説明 |
LibId | String | lib0001 | 一致したカスタム画像ライブラリの一意の ID。 |
LibName | String | カスタム画像ライブラリ A | 一致したカスタム画像ライブラリの名前。 |
ImageId | String | 20240307 | 一致したカスタム画像の一意の ID。 |
表 6：AigcData
パラメーター | タイプ | 値 | 説明 |
AIGC | Object | "AIGC": {"Label": "1", "ContentPropagator": "", "ReservedCode1": "0424***", "ProduceID": "0307***", "ReservedCode2": "", "PropagateID": "", "ContentProducer": "0728***"} | 画像内の AIGC 暗黙的ウォーターマーク情報は、標準の AIGC メタデータフィールドに準拠しています。詳細については、「暗黙的ウォーターマークメタデータ情報」をご参照ください。 |
暗黙的な識別メタデータ
例
リクエストの例
{
"Service": "aigcDetector_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img123****"
}
}レスポンスの例
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "aigc",
"Confidence": 81.88,
"Description": "AIGC によって生成された疑いがあります"
}
]
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}システムがカスタム画像ライブラリで一致を見つけた場合、レスポンスの例は次のようになります。
このトピックのサンプルリクエストとレスポンスは、読みやすさのためにフォーマットされています。実際のレスポンスは、改行やインデントでフォーマットされていません。
リスクラベルの説明
次の表に、リスクラベル、それに対応する信頼度スコア、およびその定義を示します。コンテンツモデレーションコンソールで各リスクラベルを有効または無効にできます。一部のリスクラベルについては、より具体的な検出範囲を設定することもできます。詳細については、「コンソールユーザーガイド」をご参照ください。
システムから返されたリスクラベルと信頼度スコアを一定期間保存することを推奨します。このデータは、将来のコンテンツガバナンスの参考として使用できます。リスクラベルに基づいて、手動レビューやアノテーションの優先順位を設定し、段階的なコンテンツガバナンス対策を実施できます。
表 4.AIGC 生成画像識別 (aigcDetector_global) でサポートされているラベル
ラベル (label) | 信頼度スコア範囲 (confidence) | 意味 |
aigc | 0 から 100。スコアが高いほど信頼度が高いことを示します。 | 画像は AIGC によって生成された疑いがあります。 |
ugc | 0 から 100。スコアが高いほど信頼度が高いことを示します。 | 画像は AIGC によって生成されたものではありません。 |
ugc ラベルはデフォルトで無効になっています。有効にするには、コンテンツモデレーションコンソールで設定を構成できます。リスクラベルが検出されない場合、nonLabel ラベルが返されます。
表 9. AI 生成画像検出 (Ultimate Edition) (aigcDetector_ultra) のラベル
ラベル | 信頼度 | 説明 |
risk_aigc | 0 から 100。スコアが高いほど信頼度が高いことを示します。 | 画像は AIGC によって生成された可能性が高いです。 |
risk_fake | 0 から 100。スコアが高いほど信頼度が高いことを示します。 | 画像は合成画像の可能性が高いです。 |
risk_edit | 0 から 100。スコアが高いほど信頼度が高いことを示します。 | 画像は AI によって編集された画像の可能性が高いです。 |
コードの説明
次の表に、返されるコードの意味を説明します。システムは、コード 200 を返すリクエストに対してのみ課金します。他のコードに対しては料金は発生しません。
コード | 説明 |
200 | リクエストは成功しました。 |
400 | リクエストパラメーターが空です。 |
401 | リクエストパラメーターが無効です。 |
402 | リクエストパラメーターの長さが要件を満たしていません。パラメーターを確認して修正してください。 |
403 | リクエスト数が QPS 制限を超えています。同時実行数を確認して調整してください。 |
404 | 指定された画像のダウンロード中にエラーが発生しました。画像を確認するか、再試行してください。 |
405 | 指定された画像のダウンロードがタイムアウトしました。画像にアクセスできない可能性があります。画像を確認して再試行してください。 |
406 | 指定された画像が大きすぎます。画像サイズを確認して調整し、再試行してください。 |
407 | 指定された画像のフォーマットはサポートされていません。画像フォーマットを確認して調整し、再試行してください。 |
408 | アカウントにはこの API オペレーションを呼び出す権限がありません。サービスが有効化されていない、アカウントに支払い遅延がある、またはアカウントが承認されていない可能性があります。 |
500 | システムエラーが発生しました。 |