AI Guardrails:Text Moderation 2.0 の多言語対応機能

レベル 1 ラベル

サブカテゴリラベル

サブカテゴリラベル（riskTips）は、xxx_yyy 形式でより細かい分類を提供します。たとえば、contraband_Drugs は、違法物品の内容が薬物に特化していることを示します。

リスクレベル

riskLevel フィールドは、検出されたコンテンツの深刻度および推奨される対応を示します。

リスクが検出されなかったコンテンツについては、Labels フィールドが空になります — ご利用のビジネス要件に応じて対応してください。

ステップ 1：サービスの有効化

サービス有効化2.0 ページを開き、Text Moderation 2.0 を有効化します。有効化後、デフォルトの課金方法は従量課金となります。

ステップ 2：RAM ユーザーへの権限付与

Resource Access Management (RAM) ユーザーとして API オペレーションを呼び出す前に、該当ユーザーに必要な権限を付与してください。

1. RAM コンソール に RAM 管理者としてログインします。

2. RAM ユーザーを作成します。詳細については、「RAM ユーザーの作成」をご参照ください。

3. RAM ユーザーに AliyunYundunGreenWebFullAccess システムポリシーを付与します。詳細については、「RAM ユーザーに権限を付与する」をご参照ください。

これらの手順を完了すると、RAM ユーザーは Content Moderation API を呼び出せるようになります。API 呼び出しの認証を行うには、RAM ユーザーに対して AccessKey ペアを作成し、各リクエストに含めてください。詳細については、「AccessKey ペアの取得」をご参照ください。

ステップ 3：SDK のインストールと API の呼び出し

以下の表に、サポートされているリージョンおよびそのエンドポイントを示します。SDK のインストール手順および使用例については、「Text Moderation 2.0 SDK および使用ガイド」をご参照ください。

他のプログラミング言語の SDK サンプルコードを取得するには、OpenAPI Explorer を使用してください。OpenAPI Explorer は、各サポート対象 SDK について動的にサンプルコードを生成します。

注意事項

サービスエンドポイント：https://green-cip.{region}.aliyuncs.com

TextModeration オペレーションを呼び出して、テキストモデレーションタスクを送信します。HTTP リクエストの構築方法については、「リクエスト構文」をご参照ください。

課金： HTTP ステータスコード 200 を返すリクエストのみが課金対象となります。

QPS 制限： アカウントあたり 1 秒間に 100 回の呼び出しに制限されます。この制限を超えると速度制限が発生します。

リクエストパラメーター

ServiceParameters のフィールド

レスポンスパラメーター

Data オブジェクトのフィールド

Reason JSON のフィールド

例

すべての例では comment_multilingual_global サービスを使用します。accountId は実際のアカウント ID に置き換えてください。

リクエスト

{
    "Service": "comment_multilingual_global",
    "ServiceParameters": {
        "content": "testing content",
        "accountId": "10123****",
        "dataId": "text0424****"
    }
}

レスポンス：カスタムライブラリとリスクのある単語の両方が検出された場合

{
    "Code": 200,
    "Data": {
        "Labels": "C_customized,profanity",
        "Reason": "{\"riskLevel\":\"high\",\"customizedWords\":\"HXXXXX\",\"detectedLanguage\":\"en\",\"riskTips\":\"sexuality_Suggestive\",\"riskWords\":\"pxxxxy\",\"translatedContent\":\"pxxxxy sxxxx,HXXXXX\",\"customizedLibs\":\"ZXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

応答: カスタムライブラリのみ

{
    "Code": 200,
    "Data": {
        "Labels": "C_customized",
        "Reason": "{\"riskLevel\":\"high\",\"customizedWords\":\"HXXXXX\",\"detectedLanguage\":\"en\",\"translatedContent\":\"HXXXXX\",\"customizedLibs\":\"ZXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

レスポンス：リスクのある単語のみ検出された場合

{
    "Code": 200,
    "Data": {
        "Labels": "sexuality",
        "Reason": "{\"riskLevel\":\"high\",\"detectedLanguage\":\"ar\",\"riskTips\":\"sexuality_Suggestive\",\"riskWords\":\"pxxxxy\",\"translatedContent\":\"pxxxxy sxxxx\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

応答: リスクが検出されませんでした

{
    "Code": 200,
    "Data": {
        "Labels": "",
        "Reason": "{\"detectedLanguage\":\"en\",\"translatedContent\":\"AXXXXXX\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

エラーコード