AI アプリケーション保護は、Web Application Firewall (WAF) 3.0 の機能です。人工知能 (AI) システムとそのアプリケーションにセキュリティ対策を提供し、AI モデル、データ、インフラストラクチャ、ビジネスプロセスを攻撃、悪用、または偶発的なリスクから保護します。このトピックでは、AI アプリケーション保護の利点と有効化する方法について説明します。
AI アプリケーション保護とは
AI モデルは、Natural Language Processing、画像認識、インテリジェントレコメンデーションシステムなど、さまざまな分野で広く使用されています。その強力な生成能力と効率的な処理能力は、多くの業界に前例のない機会をもたらします。しかし、開発者や企業は、AI アプリケーションや AI エージェントを開発および運用する際に、セキュリティ上の脅威に直面することがよくあります。これらの脅威には、コンテンツコンプライアンスリスク、プロンプトインジェクション攻撃、ジェイルブレイク命令、ロールの引き受けなどがあります。これらの AI の脅威の出現は、通常のビジネス運用を妨げるだけでなく、企業に重大なコンプライアンスリスクと社会的リスクをもたらします。したがって、AI アプリケーションのセキュリティは重要な考慮事項です。
AI アプリケーション保護の利点
AI アプリケーション保護機能は、Alibaba Cloud AI Security Guardrails と統合されています。プロンプトインジェクション攻撃やジェイルブレイク攻撃の検出、リクエストコンプライアンスチェックをサポートし、ブロック、応答の置き換え、失効などの WAF 対策を使用して、脅威をリアルタイムでブロックし、ビジネスのセキュリティを確保します。
プロンプト攻撃の検出: 生成 AI を標的とするインジェクション攻撃に対する専門的な防御を提供します。ジェイルブレイク命令、ロールの引き受け、システム命令の改ざんなどの敵対的な攻撃動作を正確に検出し、AI システムの強力な防御を構築します。この機能は、AI エージェントの命令インタラクションの保護、オープン ドメイン対話システムでの敵対的攻撃からの防御、サードパーティのプラグイン呼び出しの権限の制御などのシナリオに最適です。
コンテンツコンプライアンスチェック: リクエストと応答のコンテンツに対してコンプライアンスチェックを実行し、すべてのインタラクションがセキュリティと規制要件を満たしていることを確認します。
リアルタイムの保護と応答: ブロック、応答の置き換え、失効などの WAF 対策を使用して、異常な動作をリアルタイムでブロックします。また、応答コンテンツを自動的に置き換えて、安全なビジネス運用を確保することもできます。
AI アプリケーション保護を有効にする
AI アプリケーション保護を有効にする前に、サブスクリプション WAF 3.0 または 従量課金 WAF 3.0 インスタンスを購入し、Web サービスを WAF に追加する必要があります。
Web Application Firewall 3.0 コンソールにログインします。トップメニューバーで、WAF インスタンスのリソースグループとリージョン (中国本土 または 中国本土以外) を選択します。
左側のナビゲーションウィンドウで、 を選択します。
パブリックプレビューを申請します。
従量課金 WAF: [AI アプリケーション保護] ページで、[無料パブリックプレビューを申請] をクリックします。[WAF-AI アプリケーション保護モジュール POC リクエスト] ページで、申請情報を入力し、[送信] をクリックします。
Alibaba Cloud が申請を受け取った後、1 週間以内にエンジニアから連絡があり、トライアルの詳細を確認します。申請が承認されると、AI アプリケーション保護機能が WAF インスタンスで自動的に有効になります。
サブスクリプション WAF: [AI アプリケーション保護] ページで、[無料パブリックプレビューを申請] をクリックして、AI アプリケーション保護機能を有効にします。これにより、7 日間の無料トライアルが開始されます。