LangStudio は、開発ライフサイクル全体を簡素化するビジュアルプラットフォームで、エンタープライズグレードの LLM アプリケーションを構築できます。ナレッジベース、Web 検索、エージェントなどの組み込みコンポーネントを使用して迅速に開始し、ラピッドプロトタイピングからワンクリックでの本番環境へのデプロイまでを実現します。
プロダクトアーキテクチャ
デバッグとパフォーマンス分析: オンラインデバッグとトレース追跡により、ボトルネックとエラーを迅速に特定し、アプリケーションの安定性と応答時間を向上させます。
オンラインデバッグ: アプリケーションロジックをリアルタイムでテストします。開発インターフェイスのチャットウィンドウを使用してプロンプトを入力し、出力を即座に確認します。
トレースの分析: 実行パス全体をトレースとして視覚化します。各ノードの入力、出力、期間、エラーログを調べて、レイテンシや論理的な欠陥の原因を特定します。
ワンクリックでデプロイ: ワンクリックでアプリケーションフローを PAI-Elastic Algorithm Service (PAI-EAS) にデプロイします。これにより、認証とトラフィック制御をサポートする RESTful API が自動的に生成されます。
オンラインでの監視: デプロイ後、リクエストの詳細、実行トレース、ランタイムログを表示して、サービスの正常性を継続的に監視し、トラブルシューティングを容易にします。
メリット
PAI エコシステムとのシームレスな統合: LangStudio は、モデルの呼び出し、コード開発、バッチ評価、エラスティックデプロイメントをカバーするエンドツーエンドのソリューションを提供し、概念実証 (POC) から本番デプロイメントまでのアプリケーションライフサイクル全体を加速します。
本番環境レベルのモニタリングとチューニング: Managed Service for OpenTelemetry および Simple Log Service (SLS) との緊密な統合により、包括的なトレース追跡とパフォーマンス分析が可能になります。
エンタープライズグレードのセキュリティと安定性: LangStudio は、Virtual Private Cloud (VPC) ネットワークの隔離、詳細なロールベースアクセス制御、専用リソースのデプロイメントなどの機能により、アプリケーションの高い可用性とセキュリティを確保します。
ユースケース
エンタープライズグレードの RAG アプリケーションの構築
知識が頻繁に更新され、汎用 LLM の精度が低い専門分野では、Retrieval-Augmented Generation (RAG) アプリケーションを構築できます。非公開のエンタープライズナレッジベースを統合することで、モデルの応答の関連性と適時性を向上させることができます。
知識の動的更新: 組み込みのデータ同期ツールを使用して、ナレッジベースのインデックスを自動的に更新するスケジュールされたタスクを構成し、モデルの回答が常に最新であることを保証します。
セキュリティとプライバシーの確保: データプライバシー規制と内部監査要件に厳密に準拠し、モデルのトレーニングと推論中に企業データが安全かつ隔離された状態に保たれることを保証します。
NL2SQL BI アシスタントの構築
技術者でないユーザーは、SQL クエリの作成に苦労することがよくあります。自然言語から SQL (NL2SQL) へのアシスタントを使用すると、ユーザーは平易な言葉でデータ要件を記述できます。アシスタントは、これらの記述を構造化された SQL 文に自動的に変換します。これにより、参入障壁が下がり、レポート生成が加速されます。
クエリのインテリジェントな生成: 自然言語からユーザーの意図を理解し、データベースに対応する SQL 文を生成します。
レポートの自動生成: クエリ結果に基づいて、チャートやデータレポートを自動的に作成します。
データインサイトと提案の取得: 既存データの分析に基づいて、インテリジェントなビジネスインサイトと意思決定の提案を提供します。
マルチモーダルチャットエージェントの構築
音声認識、画像理解などのモデルを統合して、マルチモーダル入力を処理できるエージェントを構築します。組み込みの状態管理ノードとツール呼び出しノードを使用して、複雑なタスクフローを編成します。
サポートされているリージョン
LangStudio は、中国 (杭州)、中国 (上海)、中国 (北京)、中国 (ウランチャブ)、中国 (深圳)、中国 (香港)、シンガポール、日本 (東京)、ドイツ (フランクフルト)、米国 (バージニア) の各リージョンで利用できます。レイテンシを削減するには、データソースまたはターゲットユーザーに近いリージョンを選択してください。
課金
LangStudio プラットフォーム自体は無料です。ただし、基盤となるクラウドサービスについては、それぞれの料金モデルに従って別途課金されます。これには、プロジェクトファイルを保存するための OSS、トレース追跡のための Managed Service for OpenTelemetry、ログ収集のための SLS、サービスデプロイのための PAI-EAS が含まれます。詳細については、「LangStudio の課金」をご参照ください。
仕組み
次の図は、アプリケーションの開発とデプロイのプロセスを示しています。
初めて使用する場合は、必要なクラウドサービスを有効にし、必要なサービスロール権限を付与してください。詳細については、「LangStudio の使用に必要な権限の付与」をご参照ください。
次のステップでは、簡単な会話型アプリケーションを作成する方法を示します。
モデルサービス接続の作成。 ページで、[New Connection] をクリックします。[Connection Type] を [Alibaba Cloud Model Studio Service] に設定します。画面の指示に従って、Model Studio から API キーを取得 します。
アプリケーションフローの作成。[Application Flow] ページで、[Create Application Flow] をクリックします。[Creation Method] を [Create By Type] に設定し、[Chat Type] を選択します。アプリケーションフローの構成と関連ファイルを保存する作業パスとして、Object Storage Service (OSS) バケットを選択します。
アプリケーションフローの編集。アプリケーションフローの詳細ページに移動します。LLM ノードをクリックします。ステップ 1 で作成した接続を選択します。
qwen-maxなどのモデルを選択します。ランタイムのアタッチとデバッグ。デバッグする前に、ランタイムをアプリケーションフローにアタッチする必要があります。ランタイムは、必要なデバッグ環境を提供します。
ページの左上にあるドロップダウンメニューで、既存のランタイムを選択するか、[New Runtime] をクリックします。
ランタイムがアタッチされたら、[Run] をクリックし、ダイアログボックスに質問を入力します。出力の下にあるトレースとログを使用して、アプリケーションを繰り返し、問題を診断し、パフォーマンスを最適化します。
PAI-EAS へのデプロイ。右上隅にある [Deploy] をクリックします。適切なデプロイメントリソースを選択し、VPC を構成します。
説明Alibaba Cloud Model Studio はパブリックネットワークアクセスを必要としますが、PAI-EAS サービスはパブリックネットワークにアクセスできません。したがって、VPC と NAT Gateway を介して PAI-EAS サービスのパブリックネットワークアクセスを有効にする必要があります。
サービス API のテスト。デプロイが成功すると、PAI-EAS サービスの詳細ページにリダイレクトされます。[Online Debugging] タブで、リクエストを構成して送信します。例:
{"question":"What is 3+9?"}。詳細については、「サービスの呼び出し」をご参照ください。重要リクエストボディのキー (この例では
question) は、アプリケーションフローの Start ノードで定義された入力パラメーター名と一致する必要があります。