:コンテンツモデレーション機能に関する FAQ

ユーザーが送信した画像、動画、テキストなどのデータがコンテンツモデレーションでレビューされた後、データは削除されますか？

コンテンツモデレーション API を使用して送信された画像、動画、テキストについては、コンテンツモデレーションは画像、動画、テキスト、および機械支援モデレーションの結果を 7 日間保持します。 この期間中は、データと結果を照会できます。 7 日後、データと結果は削除されます。 コンテンツモデレーション API を使用して送信されたライブストリームと音声ストリームの場合、レビュープロセス中にメディアセグメントファイルのための一時アドレスが生成されます。 これらの一時アドレスは 30 分間有効です。 30 分後、アドレスは無効になり、メディアセグメントファイルは削除されます。

機械支援モデレーションの結果とメディアセグメントファイルを保持する場合は、削除される前に保存する必要があります。 Alibaba Cloud Object Storage Service (OSS) をアクティブにしている場合は、OSS バケットに証拠を保存する機能を有効にすることをお勧めします。

コンテンツモデレーションの機能は何ですか？

コンテンツモデレーションは、さまざまなシナリオに適用されるコンテンツモデレーション API、OSS 違反検出、およびサイト検出機能を提供します。

詳細については、「機能」をご参照ください。

コンテンツモデレーションのカスタムテキストライブラリとは何ですか？

コンテンツモデレーションは、さまざまなタイプのカスタムテキストライブラリをサポートしています。 カスタムテキストライブラリを使用すると、モデレーション結果が特定のビジネスニーズを満たすようにすることができます。

詳細については、「カスタムテキストライブラリの管理」をご参照ください。

コンテンツモデレーションで画像モデレーションのカスタム設定を行うことはできますか？

はい、データセンターの Hadoop クラスタで JindoFS を使用できます。 コンテンツモデレーションでは、カスタム画像ライブラリを設定して、モデレーション結果が特定のビジネスニーズを満たすようにすることができます。

詳細については、「カスタム画像ライブラリ」をご参照ください。

コンテンツモデレーションで人的レビュー機能を使用するにはどうすればよいですか？

コンテンツモデレーションコンソールには、コンテンツモデレーション API によって返されるモデレーション結果が表示されます。 必要に応じて、人的レビュー機能を使用して、機械支援モデレーション結果を確認できます。

詳細については、「機械支援モデレーション結果のレビュー」をご参照ください。

コンテンツモデレーションで設定したカスタムテキストライブラリが有効にならないのはなぜですか？

コンテンツモデレーションのカスタムテキストライブラリには、用語ライブラリとテキストパターンライブラリが含まれます。 一致方法は、完全一致とあいまい一致です。 カスタムテキストライブラリが要件を満たしているかどうかを確認します。 たとえば、カスタムテキストライブラリの各テキストパターンには、少なくとも 10 文字が含まれている必要があります。 コンテンツモデレーション API を呼び出すときにカスタムテキストライブラリを使用する場合は、カスタムテキストライブラリが指定されたビジネスシナリオに適用されていることを確認してください。 そうしないと、カスタムテキストライブラリは有効になりません。

カスタムテキストライブラリの使用方法の詳細については、「カスタムテキストライブラリの管理」をご参照ください。

コンテンツモデレーションはスペルミスや文法エラーを検出できますか？

いいえ、コンテンツモデレーションはスペルミスや文法エラーを検出できません。

コンテンツモデレーションにおけるテロコンテンツ検出の範囲は何ですか？

テロコンテンツ検出を使用すると、流血コンテンツ、爆発と煙、特別な衣装、ロゴ、武器、政治的コンテンツ、暴力、群衆、パレード、自動車事故、旗、ランドマークなど、テロコンテンツの画像などのオブジェクトをモデレートできます。 機械支援モデレーションのポリシーをカスタマイズすることで、ビジネスのモデレーション範囲を定義できます。

詳細については、「機械支援モデレーションのポリシーのカスタマイズ」をご参照ください。

画像モデレーションにおける rate パラメーターの意味は何ですか？

rate パラメーターの値ではなく、 suggestion パラメーターと label パラメーターの値に基づいて、画像に違反が含まれているかどうかを判断することをお勧めします。 rate パラメーターは、コンテンツモデレーションモデルが画像に対して生成する信頼度のみを示します。 このパラメーターは、画像のリスクレベルを反映するものではありません。

パラメーターの詳細については、「/green/image/scan」をご参照ください。

コンテンツモデレーションからカスタムテキストライブラリをエクスポートできますか？

はい、コンテンツモデレーションコンソールで、カスタムテキストライブラリから一度に複数の用語をエクスポートできます。

詳細については、「カスタムテキストライブラリの管理」をご参照ください。

コンテンツモデレーションで人的レビューの結果はいつ有効になりますか？

コンテンツモデレーションコンソールで人的レビュー機能を使用して、機械支援モデレーション結果を確認できます。 人的レビューの結果はリアルタイムで有効になります。 画像とテキストのレビュー結果は、サンプルライブラリに自動的に追加されます。 サンプルライブラリに新しく追加されたサンプルが有効になるまで約 15 分かかります。

詳細については、「機械支援モデレーション結果のレビュー」をご参照ください。

コンテンツモデレーションでカスタム画像ライブラリまたはカスタムテキストライブラリが有効になるまでどのくらいかかりますか？

コンテンツモデレーションは、カスタム画像ライブラリをサポートしています。 カスタム画像ライブラリを使用して、ブロックまたは許可する画像を管理できます。 カスタム画像ライブラリで画像サンプルを追加および削除できます。 これらの操作はすべて、実行後約 15 分で有効になります。 コンテンツモデレーションは、カスタムテキストライブラリもサポートしています。 カスタムテキストライブラリを使用して、ブロックまたは無視するテキストを管理できます。 カスタムテキストライブラリでテキストパターンと用語を追加および削除できます。 これらの操作はすべて、実行後約 15 分で有効になります。

詳細については、「カスタムテキストライブラリの管理」をご参照ください。

コンテンツモデレーションでコールバック URL を指定した後、コールバック通知を受信できないのはなぜですか？

コンテンツモデレーション APIはコールバック通知をサポートしています。 コンテンツモデレーションコンソールで通知プランを作成するときは、機械支援モデレーション結果や人的レビュー結果などの通知タイプを指定する必要があります。次に、作成した通知プランをビジネスシナリオに関連付けて、通知プランを有効にする必要があります。

上記の手順を実行した後もコンテンツモデレーションからコールバック通知を受信できない場合は、サーバーが指定されたコールバック URL に送信された POST リクエストに応答できるかどうかを確認することをお勧めします。 コールバック URL がリクエストされたときに 403 または 502 エラーが発生しないことを確認してください。 API リクエストで callback パラメーターを設定して、コールバック URL を指定することもできます。 コンテンツモデレーション API 操作が呼び出されると、コンテンツモデレーションは指定されたコールバック URL にコールバック通知を送信します。

詳細については、「コールバック通知の有効化」をご参照ください。

カスタム画像ライブラリに長い画像サンプルを追加した後、長い画像をモデレートできないのはなぜですか？

コンテンツモデレーションは、高さが 400 ピクセルを超える画像、またはアスペクト比が 2.5 を超える画像を直接モデレートすることはできません。 高さまたはアスペクト比が上限を超える長い画像の場合、コンテンツモデレーションは長い画像を切り取ってからモデレートします。 その結果、切り取られた長い画像は、カスタム画像ライブラリまたはフィードバックベースの画像ライブラリに追加された長い画像サンプルにヒットしません。 したがって、長い画像はモデレートできません。

長い画像モデレーションの [interval] パラメーターと [maxframes] パラメーターの詳細については、「/green/image/scan」をご参照ください。

コンテンツモデレーションコンソールで設定した機械支援モデレーションのカスタムポリシーが、コンテンツモデレーション API を呼び出すときに有効にならないのはなぜですか？

コンテンツモデレーションコンソールで機械支援モデレーションのポリシーをカスタマイズした後、またはカスタムサンプルライブラリにサンプルを追加した後は、カスタムポリシーまたはサンプルが有効になるまで 15 分かかります。 後でもう一度お試しください。 また、ビジネスシナリオに基づいて機械支援モデレーションのポリシーをカスタマイズした後は、コンテンツモデレーションの API リクエストでビジネスシナリオを指定する必要があります。 その後、対応するモデレーションポリシーが有効になります。

詳細については、「機械支援モデレーションのポリシーのカスタマイズ」をご参照ください。

内部エンドポイントを使用してコンテンツモデレーションにアクセスできるのはいつですか？

サービスがデプロイされている Elastic Compute Service (ECS) インスタンスがコンテンツモデレーションと同じリージョンにある場合は、内部エンドポイントを使用してコンテンツモデレーションにアクセスできます。

たとえば、ECS インスタンスがコンテンツモデレーションがデプロイされている中国 (北京) リージョンにある場合は、内部エンドポイント [green-vpc.cn-beijing.aliyuncs.com] を使用してコンテンツモデレーションにアクセスできます。 パブリックエンドポイントと比較して、内部エンドポイントはコンテンツモデレーションへのより高速なアクセスを提供します。 ただし、ECS インスタンスがコンテンツモデレーションと同じリージョンにない場合は、パブリックエンドポイントのみを使用してコンテンツモデレーションにアクセスできます。

コンテンツモデレーションのエンドポイントの詳細については、「エンドポイント」をご参照ください。