Alibaba Cloud Model Studio:エージェントアプリケーション

大規模言語モデル（LLM）は、独自のナレッジベースにアクセスしたり、リアルタイム情報を取得したりできません。Model Studio のエージェントアプリケーションを使用すると、コードを記述せずに LLM を外部ツールやナレッジソースに接続でき、モデルの組み込み機能を超えて拡張できます。

仕組み

エージェントはプロンプトによって駆動され、外部機能をオーケストレーションすることで複雑なタスクを完了します。リクエストを受信すると、LLM はユーザーの意図を特定し、必要なタスクを計画します。その後、エージェントは自動的に外部ツールを呼び出し、結果を統合して最終的な応答を生成します。

利用可能なツールを使用してタスクへのアプローチ方法をモデル自身に自律的に決定させたい場合にエージェントを使用します。たとえば、非公開のナレッジベースを照会し、ライブデータ API を呼び出し、その調査結果を単一の応答で要約するカスタマーサポートアシスタントを構築する場合などが該当します。

Model Studio のエージェントは以下の機能をサポートしています。

1. ナレッジベース（RAG）：エージェントを外部ナレッジベースに接続し、非公開データに基づいて質問に回答できるようにします。エージェントがモデルの組み込み知識ではカバーできないドメイン固有の質問に回答する必要がある場合に使用します。
2. プラグイン：コード実行、画像生成、天気情報の照会など、事前構築済みのプラットフォームツールを呼び出します。エージェントが会話以外の特定の操作を実行する必要がある場合に使用します。

クイックスタート

基本的なエージェントの作成

1. Alibaba Cloud Model Studio コンソールのアプリケーション管理ページに移動します。+ アプリケーションの作成 をクリックします。エージェントアプリケーション タブで、今すぐ作成 をクリックします。
2. アプリケーション構成ページで、モデル選択ドロップダウンメニューから Qwen-Plus などのモデルを選択します。他のパラメーターはデフォルト設定を使用できます。
3. 作成後、左側のダイアログボックスに Hello と入力してテストします。

エージェントの機能

モデルの選択、システムプロンプトの最適化、ナレッジベース（RAG）の追加、プラグインの呼び出しにより、エージェントを拡張できます。

モデル

モデルはエージェントの推論および意思決定を駆動します。Model Studio のエージェントは Qwen シリーズのモデルおよびカスタムデプロイモデルをサポートしています。

1. モデルの選択

   モデル選択ドロップダウンメニューから、Qwen-Plus などのモデルを選択します。その他のモデル をクリックして、他のモデルを選択することもできます。

2. パラメーターの構成

   モデルドロップダウンリストの右側にある をクリックして、以下のパラメーターを構成します。

   1. 最大応答長：プロンプトを除く、モデルが生成する応答の長さ上限です。モデルによって異なります。

   2. コンテキストターン数：モデルの入力に含める過去の会話ターンの最大数です。ターン数を増やすと、会話の一貫性が向上します。

   3. 温度：生成される応答のランダム性を制御します。値が高いほど多様性が増し、低いほど一貫性が高まります。範囲：[0, 2)。

   4. enable_thinking：思考モードを有効にします。思考モードをサポートしないモデルでは使用できません。

      思考モードを有効にすると、モデルは応答前により深い推論を実行するため、トークン消費量が増加します。

システムプロンプト

システムプロンプトはエージェントのロール、動作、制約を定義し、応答を一貫性のあるタスク志向に保ちます。効果的なシステムプロンプトを作成するには、以下の点を考慮してください。

• ペルソナの定義：モデルがどのような役割を果たすべきか、どのような専門知識を活用すべきかを記述します。

• 出力フォーマットの指定：期待する構造、長さ、スタイルを記述します。

• 制約の設定：モデルが避けるべきことや従うべきルールを指示します。

• ツール使用のガイド：特定のツールを名前で明記し、その使用タイミングを記述します。

  1. プロンプトの構成

     システムプロンプトを 「百年の孤独」の文体で私の質問に答えてください に設定します。結果を比較します。

     • システムプロンプトなしの場合：

       

     • システムプロンプトありの場合：

       

ナレッジベース（RAG）

検索拡張生成（RAG）により、エージェントは外部ナレッジベースを照会し、取得した情報を使用して回答を生成できます。社内製品ドキュメントや独自のデータセットなど、非公開またはドメイン固有の質問に対して、RAG は精度を向上させ、ハルシネーションを低減します。詳細については、「ナレッジベース」をご参照ください。

注： 取得されたテキストはモデルのコンテキストウィンドウを消費します。取得戦略およびテキスト長を調整し、カバー率とコンテキストウィンドウの制限のバランスを取ってください。

プラグイン

エージェントは、コード実行、Web 検索、テキストからの画像生成などの特定のタスクのためにプラグインを呼び出すことができます。エージェントが組み込み知識を超えた操作を実行したりコンテンツを生成したりする必要がある場合にプラグインを使用します。Model Studio は公式プラグインを提供しており、カスタムプラグインもサポートしています。詳細については、「プラグインの概要」をご参照ください。

エージェントとの対話

テキスト対話

テキスト対話は主な対話方法であり、マルチターン対話をサポートします。

テキスト対話では、以下の 2 種類の入力方法がサポートされています。

1. テキスト入力： テキストを入力してエージェントと対話します。
2. ファイルアップロード： ドキュメント、画像、動画、音声などのファイルを添付ファイルとしてアップロードし、エージェントに処理させます。

エージェントの公開と呼び出し

Model Studio のエージェントは API 経由で呼び出すことができます。また、サードパーティプラットフォームへのワンクリック公開にも対応しており、ビジネスプロセスにコンポーネントとして、または Moflow チャンネル経由で統合できます。

アプリケーションの公開

エージェントアプリケーション管理ページの右上隅にある 公開 をクリックし、次に 公開する をクリックします。

以前に公開している場合、前回の公開以降の変更内容を示すポップアップが表示されます。

API 呼び出し

エージェントアプリケーションの Publish Channel タブで、View API を API呼び出し の横でクリックすると、API 呼び出し方法を確認できます。

API を呼び出す前に、YOUR_API_KEY をご利用の実際の Model Studio API キーに置き換えてください。

エージェントの管理

コピーと削除

My Applications ページで、対象のアプリケーションカードを見つけます。その他>アプリケーションのコピー/アプリケーションの削除 メニューから、エージェントをコピー、削除、または名前変更できます。

アプリケーションをコピーするタイミングの例：

• 異なるプロンプトまたはモデルを使用したテストバージョンの作成
• 異なるオーディエンスまたはユースケース向けにエージェントをカスタマイズ
• 主要な構成変更を行う前のバックアップ作成

バージョン管理

バージョン管理により、バージョン説明を編集したり、以前に公開したバージョンに復元したりできます。

1. エージェントアプリケーションの Configure タブで、トップナビゲーションバーの右上隅にある Version Management をクリックします。

2. 履歴バージョンの一覧で、目的のバージョンを選択します。

   • バージョンの詳細を編集するには、 アイコンをクリックします。Edit Version Description ダイアログボックスで変更を加え、OK をクリックします。

   • このバージョンに復元するには、Overwrite Current Draft をクリックし、次に OK をクリックします。

     このバージョンにより、現在の下書きが上書きされます。

課金

エージェントの課金項目は以下のとおりです。

1. モデル呼び出し

   エージェントは、モデルタイプおよびトークン使用量に基づいてモデル呼び出し料金が発生します。

   請求明細については、Model Studio コンソールをご確認ください。

2. ナレッジベース
   • ナレッジベース機能は期間限定で無料です。
   • ナレッジベースから取得されたテキストチャンクは入力トークンを増加させるため、モデル呼び出し料金が増加する可能性があります。
3. MCP
   • 一部の公式 MCP は、テキストからの画像生成、テキストからの動画生成、音声合成 MCP など、モデル呼び出しに基づいて課金されます。
   • 一部の MCP サービスはサードパーティ API 呼び出しを伴い、これにより料金が発生する場合があります。これらの料金はサードパーティサービスプロバイダーによって請求されます。Model Studio はこれらの呼び出しに対して料金を請求しません。
4. 長期記憶
   • 長期記憶のデータストレージは無料です。
   • Q&A 中、メモリの内容はプロンプトにマージされてモデルに送信されるため、トークン消費量が増加します。メモリトークンは現時点では課金対象外です。

サポートされているモデル

• Qwen-Plus
• Qwen-Max
• Qwen-VL-Max
• QwenVL-Plus
• Qwen-Turbo

よくある質問

Model Studio アプリケーションの課金方法を教えてください。

アプリケーションの作成は無料です。Q&A 呼び出しに対しては、モデルタイプに基づいたモデル呼び出し料金が発生します。

ナレッジベースを構成しましたが、エージェントの回答がナレッジベースの内容に関連していません。どのように修正すればよいですか？

ナレッジベースのヒットテストを実行し、質問とナレッジベースの内容との類似度スコアを確認してください。スコアが低い場合は、取得構成を調整して、モデルがナレッジベースの結果を優先するようにしてください。

プロンプト設定で、モデルに対して組み込み知識ではなくナレッジベースの内容のみを使用して回答するよう指示します。問題が解決しない場合は、より安定した出力を得るために別のモデルを試してください。

カスタムプラグインにタイムアウト制限はありますか？

はい、5 秒です。

API を使用してエージェントアプリケーションを作成できますか？

アシスタント API を使用して、エージェントアプリケーションに類似したアプリケーションを作成できます。ただし、アシスタント API アプリケーションはコンソールで管理できません。詳細については、「アシスタント API ドキュメント」をご参照ください。