構成の公開や MCP サービスの利用は、セキュリティリスクを引き起こす可能性があります。これらのリスクには、禁止用語、コンプライアンス問題、プロンプトインジェクション、ブルートフォース攻撃などが含まれます。MSE Nacos は、モデル呼び出しから生じるセキュリティリスクから保護するためのセキュリティ検出機能を統合したコンテンツセキュリティガードレール機能を提供します。これにより、AI アプリケーションのセキュリティと安定性が向上します。
前提条件
MSE Nacos インスタンスを作成済みです。
Nacos インスタンスは Enterprise Edition であり、そのデータベースエンジンバージョンが
3.1.1.0以降であること。セキュリティガードレール機能は、Developer Edition または Professional Edition のインスタンスではサポートされていません。
機能
セキュリティガードレールは、以下の緩和機能を提供します。
緩和ディメンション | 説明 | 保護レベルオプション |
不正な URL 検出 | 不正なリンク、フィッシングサイト、その他の危険な URL をコンテンツ内で検出します。 | ブロックしない / 低リスク / 中リスク / 高リスク |
プロンプト攻撃検出 | プロンプトインジェクションやジェイルブレイク攻撃などの悪意のあるプロンプトを検出します。 | ブロックしない / 低リスク / 中リスク / 高リスク |
コンテンツコンプライアンス検出 | コンテンツが規制に準拠しているかを確認します。これには、政治的にデリケートな内容、暴力的な内容、テロリスト関連の内容、禁止されている内容などが含まれます。 | ブロックしない / 低リスク / 中リスク / 高リスク |
センシティブなコンテンツの検出 | プライバシー漏洩や機密データを含むコンテンツを検出します。 | ブロックしない / 低リスク / 中リスク / 高リスク |
保護レベルの説明：
保護レベルは、検出されたリスクの処理方法を決定します。
ブロックしない：公開プロセスに影響を与えずにログを記録します。
低リスク：低リスクレベル以上のコンテンツをブロックします。
中リスク：中リスクレベル以上のコンテンツをブロックします。
高リスク：高リスクのコンテンツのみをブロックします。これは最も寛容なレベルです。
セキュリティガードレールの設定
セキュリティガードレールの有効化
MSE 管理コンソールにログインします。
左側のナビゲーションウィンドウで、[サービス登録 & 設定センター] > [インスタンス] を選択します。
[インスタンス] ページで、対象インスタンスの名前をクリックします。
左側のナビゲーションウィンドウで、[セキュリティ保護] > [コンテンツセキュリティガードレール] を選択します。
セキュリティガードレール機能を有効にするには、[有効化] をクリックします。
説明この機能を有効にすると、構成を公開する際に、システムが自動的にコンテンツのセキュリティとコンプライアンスをチェックします。セキュリティポリシーを使用して、プライバシー漏洩、悪意のあるスクリプトインジェクション、非準拠コンテンツの公開によるリスクなど、機密コンテンツやコンプライアンス問題を検出します。これにより、アプリケーション全体のセキュリティが向上し、AI アプリケーションのセキュリティとコンプライアンスに関するベストプラクティスに従うのに役立ちます。
セキュリティガードレール機能を初めて使用する場合、サービスの権限付与が必要です。画面の指示に従って、
AliyunServiceRoleForMSEEngineServiceロールに権限を付与してください。
緩和ポリシーの設定
[緩和ポリシー設定] ページで、必要に応じて各緩和ディメンションの [ブロックポリシー] を設定します。
4つのディメンション (不正な URL 検出、プロンプト攻撃検出、コンテンツコンプライアンス検出、機密コンテンツ検出) のそれぞれについて、適切な保護レベル (ブロックしない、低リスク、中リスク、または高リスク) を選択します。
[保護範囲] を設定します。セキュリティチェックを実行するシナリオを選択します。
設定項目
説明
構成の作成と変更
Nacos 構成が作成または変更されるときにセキュリティチェックを実行します。
MCP サービスの作成と変更
MCP サーバーが作成または変更されるときにセキュリティチェックを実行します。
[変更を保存] をクリックします。
重要設定が完了すると、セキュリティガードレールはすぐに有効になります。以降のすべての公開操作は、設定されたポリシーに基づいてセキュリティがチェックされます。
結果
セキュリティガードレールを設定した後、構成または MCP サービスを公開すると、次のようになります。
システムは、公開されたコンテンツのセキュリティとコンプライアンスを自動的にチェックします。
設定された緩和ポリシーに基づいて、システムはログの記録、アラートの送信、コンテンツのブロックなどの対応する操作を実行します。
セキュリティガードレールコンソールでブロック記録を表示できます。