Microservices Engine:プロンプト管理

前提条件

• MSE を有効化済みです。

• インスタンスを作成し、Nacos エンジンのバージョンを 3.1.1.0 以降にスペックアップしていること。

• 名前空間を作成しました。

プロンプトの作成

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、Regionを選択します。

2. 左側のナビゲーションウィンドウで、マイクロサービスの登録 > インスタンス を選択します。

3. インスタンス ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management を選択します。ページ左上隅で、Namespaceを選択し、Create prompt をクリックします。

5. Create prompt ページで、以下のパラメーターを設定し、[OK] をクリックします。

   • プロンプト名： 作成後は変更できません。

   • バージョン番号： プロンプトのバージョンを識別します。セマンティックバージョニング（MAJOR.MINOR.PATCH）に従い、例：1.0.0 の形式で指定します。

   • 説明： プロンプトの目的および利用シーンに関する簡単な紹介です。

   • プロンプトテンプレート： 実際のプロンプト内容です。{{parameter_name}} 形式で置き換え可能なパラメーターを定義します。

プロンプトの削除

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、Regionを選択します。

2. 左側のナビゲーションウィンドウで、マイクロサービスの登録 > インスタンス を選択します。

3. インスタンス ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management を選択します。ページ左上隅で、Namespaceを選択します。対象プロンプトの 操作 列で、Delete をクリックします。

プロンプトの詳細表示

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、Regionを選択します。

2. 左側のナビゲーションウィンドウで、マイクロサービスの登録 > インスタンス を選択します。

3. インスタンス ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management をクリックします。ページ左上隅で、Namespaceを選択します。

   • この名前空間では、選択した Nacos インスタンスの名前空間配下にあるすべてのプロンプト（プロンプト名、公開バージョン、説明）を表示できます。

5. プロンプト名をクリックして、その詳細を表示します。

   • プロンプト詳細ページでは、現在のバージョン番号、コミットメッセージ、プロンプトテンプレート、および解析済みパラメーターを確認できます。

   • プロンプト名の右側にあるドロップダウンリストを使用して、すべての履歴バージョンを表示できます。任意のバージョン番号をクリックすると、そのバージョンの詳細が表示されます。

プロンプトの編集

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、Regionを選択します。

2. 左側のナビゲーションウィンドウで、マイクロサービスの登録 > インスタンス を選択します。

3. インスタンス ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management を選択します。ページ左上隅で、Namespaceを選択します。対象プロンプトの 操作 列で、Edit をクリックします。

5. Edit prompt パネルで、プロンプト内容を更新します。

   1. 基本情報： プロンプトテンプレートを修正します。パラメータープレビュー領域には、編集前後のサポート対象パラメーターの変更が表示されます。MSE Nacos では、開始点として使用できるサンプルテンプレートが提供されています。

   2. バージョン情報： 新しいバージョン番号と、今回の変更内容を説明するコミットメッセージを入力します。新しいバージョン番号は、現在の最新バージョンより大きい値である必要があります。

6. プロンプトリストページに戻ります。説明列の編集アイコンをクリックして、プロンプトの説明を修正します。

プロンプトの最適化

MSE Nacos には組み込みの AI 最適化エンジンが搭載されており、プロンプトの品質を自動的に分析・改善します。曖昧な表現を除去して指示を明確にしたり、論理構造を強化して読みやすさを向上させたり、シナリオに応じたトーン調整を行ったり、セキュリティ制約および境界条件を追加します。

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、リージョンを選択します。

2. 左側のナビゲーションウィンドウで、Service Registry and Configuration Center > Instances を選択します。

3. Instances ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management をクリックします。ページ左上隅で、名前空間を選択します。

5. プロンプト名をクリックして詳細ページに移動します。

6. Optimize prompt ボタンをクリックし、最適化要件を入力して、Optimize をクリックします。

7. しばらく待つと、最適化された内容が表示されます。元の内容を置き換えるかどうかを選択します。

8. 置き換える場合は、右上隅の Publish new version をクリックして、最適化されたプロンプトを公開します。

プロンプトのデバッグ

MSE Nacos では、迅速な検証および反復を支援するプロンプトデバッグ機能を提供しています。コンソール上で直接質問を入力することで、デプロイメントなしに即座に AI の応答を確認できます。また、テンプレート変数を動的に調整して出力の変化を観察し、最適なパラメーター組み合わせを迅速に特定することも可能です。

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、リージョンを選択します。

2. 左側のナビゲーションウィンドウで、Service Registry and Configuration Center > Instances を選択します。

3. Instances ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management をクリックします。ページ左上隅で、名前空間を選択します。

5. プロンプト名をクリックして詳細ページに移動します。

6. 調整後、右側のデバッグパネルでプロンプトをデバッグします。

   1. ユーザー入力を入力し、プロンプトテンプレート内で参照されているパラメーターを入力します。

   2. デバッグ用のモデルを選択します。

   3. 必要に応じてモデルパラメーターを調整します。

   4. 右上隅の Generate response ボタンをクリックします。

   5. モデルの応答が応答セクションに表示されます。

プロンプトの検索

1. MSE Service Registry and Configuration Center Management Console にログインします。上部メニューバーで、Regionを選択します。

2. 左側のナビゲーションウィンドウで、マイクロサービスの登録 > インスタンス を選択します。

3. インスタンス ページで、対象のインスタンス名をクリックします。

4. 左側のナビゲーションウィンドウで、Prompt management を選択します。ページ左上隅で、Namespaceを選択します。

5. プロンプトリスト上部の検索ボックスに検索したいプロンプト名を入力し、 ボタンをクリックするか Enter キーを押します。あいまい検索がサポートされています。

Nacos クライアントを使用したプロンプトの照会およびサブスクライブ

pip install nacos-sdk-python

from v2.nacos import NacosNamingService, NacosConfigService, NacosAIService, ClientConfigBuilder, GRPCConfig, \
    Instance, SubscribeServiceParam, RegisterInstanceParam, DeregisterInstanceParam, \
    BatchRegisterInstanceParam, GetServiceParam, ListServiceParam, ListInstanceParam, ConfigParam
   
client_config = (ClientConfigBuilder()
                 .access_key(os.getenv('NACOS_ACCESS_KEY'))
                 .secret_key(os.getenv('NACOS_SECRET_KEY'))
                 .server_address(os.getenv('NACOS_SERVER_ADDR', 'localhost:8848'))
                 .log_level('INFO')
                 .grpc_config(GRPCConfig(grpc_timeout=5000))
                 .build())

config_client = await NacosConfigService.create_config_service(client_config)

# Query prompt
prompt = await config_client.get_config(ConfigParam(
            data_id=f"{promptKey}.json",
            group="nacos-ai-prompt"
))

# Subscribe to prompt
async def config_listener(tenant, data_id, group, prompt):
    print("listen, tenant:{} data_id:{} group:{} prompt:{}".format(tenant, data_id, group, prompt))

await config_client.add_listener(f"{promptKey}.json", "nacos-ai-prompt", config_listener)

# Prompt format
# {
#     "promptKey": "assistant",
#     "version": "1.0.1",
#     "template": "You are a professional {{language}} code generation assistant. Generate {{type}} code based on user requirements.\nRequirements:\n1. Code style: {{style}}\n2. Comment language: {{comment_lang}}\n3. Complexity: {{complexity}}\n",
#     "commitMsg": "Initial version"
# }

<dependency>
    <groupId>com.alibaba.nacos</groupId>
    <artifactId>nacos-client</artifactId>
    <version>${version}</version>
</dependency>

String serverAddr = "localhost:8848";

ConfigService configService = NacosFactory.createConfigService(serverAddr);

# Query the prompt
String prompt = configService.getConfig("{promptKey}.json", "nacos-ai-prompt", 5000);

# Subscribe to the prompt
configService.addListener("{promptKey}.json", "nacos-ai-prompt", new Listener() {
    
    @Override
    public void receiveConfigInfo(String prompt) {
        System.out.println("Received prompt: " + prompt);
    }
    @Override
    public Executor getExecutor() {
        return null;
    }
    
});