ランタイムとは、LangStudio 開発フェーズにおける実行環境のことです。ランタイムは、アプリケーションフロー、ナレッジベース、およびその他の機能の開発とデバッグをサポートします。単一のランタイムは、複数のアプリケーションフローとナレッジベースで再利用できます。 LangStudio 開発前にランタイムを作成して、一貫した実行環境を提供できます。このトピックでは、ランタイムを作成および管理する方法について説明します。
ランタイムを作成する
LangStudio に移動し、ワークスペースを選択して、[ランタイム] タブをクリックします。 [ランタイム] タブで、[ランタイムの作成] をクリックして、[新しいランタイム] ページに移動します。
パラメーター | 説明 |
ランタイム名 | ランタイムの名前。 |
ランタイム作業パス | ランタイム構成、ログ、およびその他のファイルを保存する Object Storage Service (OSS) パスを選択します。ワークスペースのデフォルトのストレージパスをランタイム作業パスとして選択することをお勧めします。
|
リソースの種類 | ecs.g6.xlarge などのインスタンスタイプを選択します。 |
VPC | アプリケーションフローとナレッジベースの開発とデバッグは、大規模言語モデル (LLM) サービス、埋め込みモデルサービス、およびベクトルデータベースに依存します。これらのサービスがお客様の VPC (Virtual Private Cloud) にデプロイされている場合は、ランタイムの作成時に VPC を選択する必要があります。これにより、ランタイムが関連サービスにアクセスできるようになります。 |
マウント構成 | ビジネス要件に基づいて、OSS オブジェクトまたはデータセットをマウントします。 |
最大単一実行時間 | アプリケーションフローのオンラインデバッグのデフォルトのタイムアウト期間。デフォルト値：5分。実行時間が長時間かかる場合は、ランタイムの中断を避けるために、パラメーターをより大きな値に設定することをお勧めします。 |
インスタンス RAM ロール | ランタイムコンテナーに挿入された RAM ロール。詳細については、「DSW インスタンスの RAM ロールを構成する」をご参照ください。 |
ランタイムを管理する
[ランタイム] タブで、ランタイムの開始、停止、または削除を実行できます。
次の手順
ランタイムを作成した後、アプリケーションフローの作成時にランタイムを選択したり、フロー開発ページでアプリケーションフローにランタイムを追加または削除したりできます。
