Alibaba Cloud の Content Moderation の画像モデレーション2.0 は、AI 生成コンテンツ (AIGC) および偽造を含むシナリオ向けの画像検出サービスを提供します。このサービスは、画像が AIGC によって生成されたものかどうかを判断できます。このトピックでは、画像モデレーションサービスの AIGC および偽造検出機能について説明します。
1. ユースケース
Alibaba Cloud Content Moderation は、AIGC モデレーションおよび AI を活用した偽造検出に特化した、以下の専用検出サービスを提供します。
-
AI 生成コンテンツ検出：
-
AIGC 生成画像の判定：AIGC 技術の進化に伴い、生成された画像はユーザー生成コンテンツ (UGC) と区別することが難しくなっています。多くのプラットフォームでは、画像が AI によって生成されたものかどうかを判断する必要があります。この課題に対応するため、Alibaba Cloud Content Moderation は AI 生成画像検出機能を提供します。この機能は、画像の合成アーティファクトを分析し、生成または合成された疑いのあるコンテンツが含まれているかどうかを判断します。
-
2. サービス概要
画像モデレーション 2.0 の AIGC および偽造検出機能は、以下のサービスをサポートしています。
|
シナリオ |
サービス |
検出内容 |
シナリオ |
|
AI 生成コンテンツ検出 |
サービス名：AIGC 生成画像の判定 サービス：aigcDetector_global |
検出オブジェクト：画像。 検出内容：画像が AI によって生成または合成された可能性が高いかどうかを検出します。 |
このサービスは、画像が AIGC によって生成されたものかどうかを判断します。画像のソースを特定する必要がある場合、このサービスを使用してください。 |
|
サービス名：AI生成画像の判定_Ultimate サービス：aigcDetector_ultra_global |
検出オブジェクト：画像。 検出内容：画像が AI によって生成または合成された可能性が高いか、合成画像 (合成顔を含む) の疑いがあるか、または AI による局所編集の疑いがあるかどうかを検出します。 |
画像が偽造されているかどうかを判断します。このサービスを使用して、画像の偽造を検出し、特に潜在的な AI による局所編集を確認します。 |
3. 課金
画像モデレーション 2.0 の AIGC および偽造検出サービスは、従量課金の課金方法をサポートしています。
従量課金
画像モデレーションV2.0 サービスを有効化すると、デフォルトの課金方法は従量課金になります。実際の使用量に基づいて毎日請求されます。サービスを呼び出さなければ、料金は発生しません。
|
モデレーションタイプ |
サポートされるビジネスシナリオ (サービス) |
単価 |
|
一般画像モデレーション (image_standard) |
|
1,000 呼び出しあたり 0.60 米ドル 説明
AIGC 生成画像識別サービスへの各呼び出しは、1 回の呼び出しとしてカウントされます。実際の呼び出し回数に基づいて課金されます。たとえば、AIGC 生成画像識別サービスを 100 回呼び出した場合、0.06 米ドルが課金されます。 |
|
高度な画像偽造モデレーション (image_identify_standard_cn) |
|
1,000 呼び出しあたり 0.60 米ドル 説明
AIGC 生成画像識別サービスへの各呼び出しは、1 回の呼び出しとしてカウントされます。実際の呼び出し回数に基づいて課金されます。たとえば、AIGC 生成画像識別サービスを 100 回呼び出した場合、0.06 米ドルが課金されます。 |
Content Moderation 2.0 の従量課金モードの請求書は、24 時間ごとに生成されます。請求明細では、moderationType がモデレーションタイプフィールドに対応します。詳細については、「請求明細」をご参照ください。
4. 統合
ステップ 1：サービスの有効化
サービス有効化ページに移動して、画像モデレーション2.0 サービスを有効化します。
画像モデレーション2.0 サービスを有効化すると、デフォルトの課金方法は従量課金になります。料金は実際の使用量に基づいて毎日決済されます。サービスを呼び出さなければ、料金は発生しません。API を呼び出すと、システムは使用量に基づいて自動的に請求書を生成します。詳細については、「請求明細」をご参照ください。
ステップ 2：RAM ユーザーへの権限付与
API オペレーションを呼び出すか、SDK を使用する前に、RAM ユーザーに権限を付与する必要があります。Alibaba Cloud アカウント (root ユーザー) または RAM ユーザーの AccessKey ペアを作成する必要があります。API オペレーションを呼び出す際には、AccessKey ペアを使用して本人確認を完了する必要があります。AccessKey ペアを取得するには、「AccessKey ペアの取得」をご参照ください。
-
Alibaba Cloud アカウント (root ユーザー) または RAM 管理者としてRAM コンソールにログインします。
-
RAM ユーザーを作成します。詳細については、「RAM ユーザーの作成」をご参照ください。
-
RAM ユーザーに AliyunYundunGreenWebFullAccess システムポリシーを付与します。詳細については、「RAM ユーザーへの権限付与」をご参照ください。これらの構成を完了すると、RAM ユーザーとして Content Moderation API を呼び出すことができます。
ステップ 3：SDK のインストールと統合
詳細については、「画像モデレーション 2.0 SDK と使用ガイド」をご参照ください。次の表に、サポートされているリージョンを示します。
|
リージョン |
パブリックエンドポイント |
VPC エンドポイント |
サポートされるサービス |
|
シンガポール |
https://green-cip.ap-southeast-1.aliyuncs.com |
https://green-cip-vpc.ap-southeast-1.aliyuncs.com |
aigcDetector_global、aigcDetector_ultra_global |
|
マレーシア (クアラルンプール) |
green-cip.ap-southeast-3.aliyuncs.com |
なし |
|
|
インドネシア (ジャカルタ) |
green-cip.ap-southeast-5.aliyuncs.com |
なし |
|
|
イギリス (ロンドン) |
green-cip.eu-west-1.aliyuncs.com |
なし |
|
|
米国 (バージニア) |
green-cip.us-east-1.aliyuncs.com |
green-cip-vpc.us-east-1.aliyuncs.com |
aigcDetector_global |
|
米国 (シリコンバレー) |
green-cip.us-west-1.aliyuncs.com |
なし |
イギリス (ロンドン)、マレーシア (クアラルンプール)、インドネシア (ジャカルタ) リージョンは、シンガポールリージョンのコンソール構成を再利用します。米国 (シリコンバレー) リージョンは、米国 (バージニア) リージョンのコンソール構成を再利用します。
ステップ 4：画像モデレーションルールの調整 (任意)
Content Moderation コンソールでは、画像モデレーションサービスの検出ルールを調整できます。検出範囲の切り替え、サービスのコピー、カスタムイメージライブラリや語彙の構成、検出レコードや使用量のクエリが可能です。詳細については、「コンソール操作ガイド」をご参照ください。
5. API
注意事項
この API を呼び出して、画像モデレーションタスクを作成できます。HTTP リクエストの構築方法の詳細については、「アクセスガイド」をご参照ください。事前に構築された HTTP リクエストを使用することもできます。詳細については、「アクセスガイド」をご参照ください。
-
API オペレーション：ImageModeration
-
課金情報：これは有料のオペレーションです。HTTP ステータスコード 200 を返すリクエストのみが課金対象となります。他のエラーコードを返すリクエストは課金されません。課金方法の詳細については、「課金概要」をご参照ください。
-
画像要件：
-
サポートされている画像形式は次のとおりです：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC (最長辺は 8,192 ピクセル未満である必要があります)、GIF (最初のフレームのみ処理されます)、ICO (最後の画像のみ処理されます)。
-
画像サイズは 20 MB を超えることはできません。高さまたは幅は 16,384 ピクセルを超えることはできず、総ピクセル数は 2 億 5000 万を超えることはできません。検出アルゴリズムの有効性を確保するために、解像度が 200 × 200 ピクセル以上の画像を使用することを推奨します。
-
画像のダウンロード時間は 3 秒に制限されています。ダウンロードに 3 秒以上かかる場合、タイムアウトエラーが返されます。
-
QPS 制限
この API オペレーションの秒間クエリ数 (QPS) 制限は、各ユーザーに対して 100 です。ただし、aigcDetector_ultra_global サービスの場合、制限は 20 QPS です。これらの制限を超える API 呼び出しはスロットルされ、ビジネスに影響を与える可能性があります。API 呼び出しのペースを適宜調整してください。高いワークロードがある場合や、緊急にスケールアップする必要がある場合は、ビジネス マネージャーに連絡して、より高い QPS 制限をリクエストしてください。
デバッグ
開始する前に、Alibaba Cloud OpenAPI Explorer を使用して、または画像モデレーション 2.0 API をオンラインでテストできます。また、サンプルコードと SDK の依存関係を表示して、API とそのパラメーターの使用方法を理解することもできます。
オンラインデバッグ機能は、現在ログインしているアカウントを使用して Content Moderation API オペレーションを呼び出します。したがって、呼び出しは課金対象の使用量に含まれます。
リクエストパラメーター
リクエストに必要な共通パラメーターについては、「アクセスガイド」をご参照ください。
リクエストボディは、次のフィールドを含む JSON 構造体です。
|
名前 |
タイプ |
必須 |
例 |
説明 |
|
Service |
String |
はい |
aigcDetectorFull |
検出サービス。有効な値：
|
|
ServiceParameters |
JSONString |
はい |
コンテンツモデレーションオブジェクトの一連のパラメーターで、JSON 文字列として提供されます。各文字列の説明については、「表 1. ServiceParameters」をご参照ください。 |
表 1. ServiceParameters
|
名前 |
タイプ |
必須 |
例 |
説明 |
|
imageUrl |
String |
はい。画像モデレーション 2.0 は、画像をアップロードする 3 つの方法をサポートしています。
|
https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png |
検出するオブジェクトの URL。URL がパブリックネットワーク経由でアクセス可能であり、長さが 2,048 文字以下であることを確認してください。 注 URL には中国語文字を含めることはできません。リクエストごとに 1 つの URL のみを送信するようにしてください。 |
|
ossBucketName |
String |
bucket_01 |
権限が付与された OSS バケットの名前。 説明
画像の内部 OSS URL を使用するには、まずルートアカウントを使用してクラウドリソースアクセス権限付与ページに移動し、 |
|
|
ossObjectName |
String |
2022023/04/24/test.jpg |
権限が付与された OSS バケット内のファイルの名前。 |
|
|
ossRegionId |
String |
cn-beijing |
OSS バケットが配置されているリージョン。 |
|
|
dataId |
String |
いいえ |
img123**** |
検出オブジェクトのデータ ID。 ID には、大文字、小文字、数字、アンダースコア (_)、ハイフン (-)、およびピリオド (.) を含めることができます。長さは最大 64 文字で、ビジネスデータを一意に識別するために使用できます。 |
|
referer |
String |
いいえ |
www.aliyun.com |
リファラーリクエストヘッダー。ホットリンク保護などのシナリオで使用されます。長さは 256 文字を超えることはできません。 |
|
infoType |
String |
はい |
aigcData |
返される補助情報のタイプ。有効な値：
複数のタイプを指定するには、 |
レスポンスパラメーター
|
名前 |
タイプ |
例 |
説明 |
|
RequestId |
String |
70ED13B0-BC22-576D-9CCF-1CC12FEAC477 |
現在のリクエストの ID。これは Alibaba Cloud によってリクエストに対して生成された一意の識別子であり、トラブルシューティングに使用できます。 |
|
Data |
Object |
画像モデレーションの結果。詳細については、「表 2. Data」をご参照ください。 |
|
|
Code |
Integer |
200 |
返された HTTP ステータスコード。詳細については、「レスポンスコード」をご参照ください。 |
|
Msg |
String |
OK |
現在のリクエストに対する応答メッセージ。 |
表 2. Data
|
名前 |
タイプ |
例 |
説明 |
|
Result |
Array |
画像モデレーションのパラメーター結果 (リスクラベルや信頼度スコアなど)。詳細については、「表 3. result」をご参照ください。 |
|
|
RiskLevel |
String |
high |
構成された高リスクおよび低リスクスコアに基づいて返されるリスクレベル。有効な値：
説明
高リスクのコンテンツは直接処理することを推奨します。中リスクのコンテンツは手動でレビューする必要があります。低リスクのコンテンツは、高い再現率が必要な場合にのみ処理してください。それ以外の場合は、リスクが検出されなかったコンテンツと同じように扱います。リスクスコアはContent Moderation コンソールで構成できます。 |
|
DataId |
String |
img123****** |
検出オブジェクトのデータ ID。 説明
リクエストパラメーターで dataId を渡した場合、同じ dataId がここで返されます。 |
|
Ext |
Object |
画像の追加情報。詳細については、「Ext」をご参照ください。 |
表 3. result
|
名前 |
タイプ |
例 |
説明 |
|
Label |
String |
tm_auto |
画像コンテンツ検出後に返されるラベル。1 つの画像に対して複数のラベルとスコアが返される場合があります。サポートされているラベルについては、以下をご参照ください。 |
|
Confidence |
Float |
81.22 |
信頼度スコアは 0 から 100 の範囲で、小数点以下 2 桁まで正確です。一部のラベルには信頼度スコアがありません。詳細については、「リスクラベルの説明」をご参照ください。 |
|
Description |
String |
花火と火工品 |
Label フィールドの説明。 重要
このフィールドは Label フィールドを説明するものであり、変更される可能性があります。このフィールドではなく、Label フィールドに基づいて結果を処理することを推奨します。 |
表 4： Ext
|
パラメーター |
タイプ |
値 |
説明 |
|
CustomImage |
JSONArray |
カスタムライブラリで一致が見つかった場合、このパラメーターはそのライブラリの詳細を返します。詳細については、「CustomImage」をご参照ください。 |
|
|
AigcData |
Object |
画像の AIGC 暗黙的マーカー検出結果を返します。詳細については、「AigcData」をご参照ください。 |
表 5. CustomImage
|
パラメーター |
タイプ |
値の例 |
説明 |
|
LibId |
String |
lib0001 |
一致したカスタムイメージライブラリの一意の ID。 |
|
LibName |
String |
カスタムイメージライブラリ A |
一致したカスタムイメージライブラリの名前。 |
|
ImageId |
String |
20240307 |
一致したカスタムイメージの一意の ID。 |
表 6：AigcData
|
パラメーター |
タイプ |
値 |
説明 |
|
AIGC |
Object |
"AIGC": {"Label": "1", "ContentPropagator": "", "ReservedCode1": "0424***", "ProduceID": "0307***", "ReservedCode2": "", "PropagateID": "", "ContentProducer": "0728***"} |
画像内の AIGC 暗黙的ウォーターマーク情報は、標準の AIGC メタデータフィールドに準拠しています。詳細については、「暗黙的ウォーターマークメタデータ情報」をご参照ください。 |
暗黙的識別メタデータ
例
リクエストの例
{
"Service": "aigcDetector_global",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img123****"
}
}レスポンスの例
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "aigc",
"Confidence": 81.88,
"Description": "AIGC によって生成された疑いがあります"
}
]
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}-
システムがカスタムイメージライブラリで一致を見つけた場合、レスポンスの例は次のようになります。
このトピックのサンプルリクエストとレスポンスは、読みやすさのためにフォーマットされています。実際のレスポンスは、改行やインデントでフォーマットされていません。
リスクラベルの説明
次の表に、リスクラベル、それに対応する信頼度スコア、およびその定義を示します。Content Moderation コンソールで各リスクラベルを有効または無効にできます。一部のリスクラベルについては、より具体的な検出範囲を構成することもできます。詳細については、「コンソールユーザーガイド」をご参照ください。AIGC 画像検出サービスでサポートされているラベルは次のとおりです。
システムから返されたリスクラベルと信頼度スコアを一定期間保存することを推奨します。このデータは、将来のコンテンツガバナンスの参考として使用できます。リスクラベルに基づいて、手動レビューやアノテーションの優先順位を設定し、段階的なコンテンツガバナンス対策を実施できます。
表 4.AIGC 生成画像識別 (aigcDetector_global) でサポートされているラベル
|
ラベル (label) |
信頼度スコアの範囲 (confidence) |
意味 |
|
aigc |
0 から 100。スコアが高いほど信頼度が高いことを示します。 |
画像は AIGC によって生成された疑いがあります。 |
|
ugc |
0 から 100。スコアが高いほど信頼度が高いことを示します。 |
画像は AIGC によって生成されたものではありません。 |
ugc ラベルはデフォルトで無効になっています。有効にするには、Content Moderation コンソールで設定を構成できます。リスクラベルが検出されない場合、nonLabel ラベルが返されます。
表 9. AI 生成画像検出 (Ultimate Edition) (aigcDetector_ultra_global)でサポートされているラベル
|
ラベル |
信頼度 |
説明 |
|
risk_aigc |
0 から 100。スコアが高いほど信頼度が高いことを示します。 |
画像は AIGC によって生成された可能性が高いです。 |
|
risk_fake |
0 から 100。スコアが高いほど信頼度が高いことを示します。 |
画像は合成画像の可能性が高いです。 |
|
risk_edit |
0 から 100。スコアが高いほど信頼度が高いことを示します。 |
画像は AI によって編集された画像の可能性が高いです。 |
コードの説明
次の表は、返されたコードの意味を説明しています。システムは、コード 200 を返すリクエストに対してのみ課金します。他のコードに対しては料金は発生しません。
|
コード |
説明 |
|
200 |
リクエストは成功しました。 |
|
400 |
リクエストパラメーターが空です。 |
|
401 |
リクエストパラメーターが無効です。 |
|
402 |
リクエストパラメーターの長さが要件を満たしていません。パラメーターを確認して修正してください。 |
|
403 |
リクエスト数が QPS 制限を超えています。同時実行数を確認して調整してください。 |
|
404 |
指定された画像のダウンロード中にエラーが発生しました。画像を確認するか、再試行してください。 |
|
405 |
指定された画像のダウンロードがタイムアウトしました。これは、画像にアクセスできないためである可能性があります。画像を確認して再試行してください。 |
|
406 |
指定された画像が大きすぎます。画像サイズを確認して調整し、再試行してください。 |
|
407 |
指定された画像の形式はサポートされていません。画像形式を確認して調整し、再試行してください。 |
|
408 |
アカウントにはこの API オペレーションを呼び出す権限がありません。これは、サービスが有効化されていない、アカウントに支払い遅延がある、またはアカウントが権限付与されていないためである可能性があります。 |
|
500 |
システムエラーが発生しました。 |