DataWorks のモデルサービス機能を使用すると、ガイド付きのシンプルなインターフェースで、大規模な事前トレーニング済みモデルを迅速にデプロイできます。このトピックでは、DataWorks のサーバーレスリソースグループを使用してモデルサービスをデプロイする方法について説明します。
課金
この機能は、DataWorks のリソースおよび他のクラウドサービスのリソースを消費します。料金は次のとおりです。
|
料金タイプ |
説明 |
|
DataWorks の料金 |
DataWorks で実行中のモデルサービスは、サーバーレスリソースグループのリソースを消費します。従量課金リソースグループにデプロイされたサービスの場合、CU 時間に基づいて課金されます。料金の詳細については、「サーバーレスリソースグループの課金」をご参照ください。 |
|
DataWorks 以外の料金 |
|
注意事項
セキュアなプライベートネットワークアクセスを実現するには、デプロイ時に関連サービスを有効化する必要があります。システムは、次の理由によりPrivateLinkおよびプライベートホストゾーンを自動的に設定します。
-
PrivateLink により VPC 間のアクセスが可能になり、DataWorks リソースグループと通信できるアカウント内の VPC から、DataWorks にデプロイされたフルマネージド型モデルサービスにアクセスできます。
-
プライベートホストゾーンは、アカウント内でカスタムドメイン名解決を提供し、VPC 内からドメイン名を使用して特定の DataWorks モデルサービスにアクセスできるようにします。
ドメイン名でモデルサービスを呼び出すと、トラフィックは VPC から PrivateLink チャネルを経由して DataWorks リソースグループの VPC に流れ、そこでモデルインスタンスに到達して呼び出しが完了します。サービスの詳細は、PrivateLink コンソールおよびAlibaba Cloud DNS - プライベートホストゾーンコンソールで確認できます。
前提条件
-
PrivateLink サービスを有効化してください。
VPC からアクセスするには、PrivateLink を使用してセキュアな VPC 間接続を確立します。
-
プライベートホストゾーンサービスを有効化してください。
プライベートホストゾーンは、VPC 内でカスタムドメイン名解決を提供します。サービスのドメイン名に対するリクエストを DataWorks モデルサービスに転送します。
-
DataWorks ワークスペースを作成し、サーバーレスリソースグループに関連付けてください。
DataWorks ワークスペースと同じリージョンでサービスを有効化してください。そうしないと、サービスが正しく機能しない可能性があります。
制限
-
モデルサービス機能は、次のリージョンでのみ利用可能です:中国 (杭州)、中国 (上海)、中国 (北京)、中国 (ウランチャブ)、中国 (深セン)、中国 (香港)、日本 (東京)、シンガポール、マレーシア (クアラルンプール)、インドネシア (ジャカルタ)、ドイツ (フランクフルト)、米国 (シリコンバレー)、米国 (バージニア)。
-
モデルのデプロイのみをサポートしています。モデルトレーニングはサポートされていません。
-
単一のリージョンで、各 Alibaba Cloud アカウントは最大 50 個のモデルサービスをデプロイできます。
-
この機能はサーバーレスリソースグループのみをサポートし、単一のリソースグループは最大 5 個のモデルサービスをホストできます。
-
各モデルサービスは、最大 3 個の VPC に関連付けることができます。
エントリーポイント
-
DataWorks コンソールにログインします。上部メニューで、対象のリージョンに切り替えます。
-
左側のナビゲーションペインで、大きなモデルサービス をクリックして 大きなモデルサービス ページを開きます。
モデルのデプロイ
大きなモデルサービス ページで 配置モデル をクリックして モデル一覧 ページを開き、デプロイするモデルを選択して 部署 をクリックします。 モデル配置 設定ページが開きます。 画面の指示に従ってデプロイを完了します。
基本情報の設定
-
モデル:DataWorks リソースグループにデプロイするモデルのタイプを確認します。詳細については、「サポートされているモデル」をご参照ください。
-
サービス名:モデルサービスのカスタム名を指定します。この名前は、DataWorks でデプロイされたモデルサービスを識別するために使用されます。
-
説明: (オプション) サービスの管理と識別に役立つ説明です。
リソース情報の設定
次のパラメータに基づいて、モデルのデプロイ環境を設定します。
|
パラメータ |
説明 |
|
リソースグループ |
モデルサービスのデプロイ場所を指定します。作成したサーバーレスリソースグループを選択します。 デプロイが完了したら、DataWorks コンソールにログインし、ターゲットリージョンに切り替えます。左側のナビゲーションペインで Resource Group をクリックしてリソースグループリストページに移動し、ターゲットの リソースグループ名 をクリックします。リソースグループの Details ページで、モデルサービス用の Serverless リソースグループの使用状況 を表示できます。 |
|
vSwitch |
モデルサービスデプロイ用の vSwitch を指定します。 画面の指示に基づいて、適切なアベイラビリティーゾーンでサーバーレスリソースグループに関連付けられた vSwitch を選択します。 |
|
デプロイ仕様 |
モデルサービスのデプロイに使用される単一インスタンスのリソース仕様を選択します。 |
|
インスタンス数 |
モデルサービスデプロイのインスタンス数を設定します。複数のインスタンスをデプロイすると、モデルサービスの高可用性が向上します。 |
|
合計占有量 |
このモデルサービスのデプロイに必要な合計 CU は、部署仕様 × インスタンス数 として計算されます。 リソースグループ内のモデルサービス用の利用可能な CU が、現在のモデルサービスをデプロイするのに十分であることを確認してください。リソースグループのクォータ管理ページに移動して、モデルサービスに割り当てられた CU 制限を調整できます。詳細については、「タスクへの CU クォータの割り当て」をご参照ください。
|
設定を完了したら、デプロイ をクリックします。
モデルサービスを作成すると、プラットフォームは自動的に PrivateLink、Alibaba Cloud DNS プライベートホストゾーン、およびセキュリティグループリソースを生成します。これらのリソースを手動で削除または編集しないでください。モデルサービスを削除すると、プラットフォームは自動的にこれらのリソースをクリーンアップします。
デプロイが完了すると、システムはアカウント内で次のアクションを実行します。
-
DataWorks リソースグループに関連付けられたデフォルト VPC に PrivateLink エンドポイントが作成され、DataWorks リソースグループ VPC 内の PrivateLink エンドポイントサービスとの暗号化された通信チャネルが確立されます。
-
アカウントのプライベートホストゾーンサービスに解決レコードが自動的に追加され、内部ドメイン名が DataWorks リソースグループの VPC 環境に関連付けられます。
モデルの管理
モデルサービスが作成されると、大きなモデルサービス リストから、ステータスの管理、サービス情報の表示、ネットワーク設定と API キーの管理、必要に応じたリソースの調整ができます。
モデルの状態の管理
モデルサービスは、作成に成功するとデフォルトで開始されます。大きなモデルサービス リストの Operation 列で、ビジネス要件に基づいてモデルのステータスを管理できます。
|
アクション |
サービスの状態 |
リソース消費 |
|
開始 |
実行中 |
サーバーレスリソースグループのリソースを消費します。 |
|
停止 |
停止済み |
サーバーレスリソースグループのリソースを消費しません。 |
|
再起動 |
再起動中 → 実行中 |
再起動中、モデルサービスは一時的に利用できません。再起動が完了すると、サーバーレスリソースグループのリソースの消費を再開します。 |
|
削除 |
— |
サーバーレスリソースグループのリソースを永久に解放します。 |
モデルサービスの表示
Overview タブには、現在のモデルサービスの設定情報が表示されます。Overview タブでは、モデルサービスの 基本情報、リソースの配分、および 呼び出し情報 を管理できます。
-
大きなモデルサービス リストで対象のモデルサービスを探し、その Service Name をクリックして Overview タブに移動します。
-
モデルサービスの基本情報、リソース情報、呼び出し情報を表示できます。
-
基本情報:モデルの Service Name、Service ID、Model タイプが含まれます。
-
リソース情報: 部署仕様 や インスタンス数 などの情報を確認できます。
-
呼び出し情報: ノードタスクで 大規模モデルを使用する必要がある場合は、
アイコンの横にある [VPC アドレス呼び出しドメイン名] をクリックしてドメイン名をコピーします。
-
モデルリソースの変更
既存のモデルサービスの名前、デプロイリソース仕様、インスタンス数を変更できます。
-
大きなモデルサービス リストで、対象のモデルサービスを見つけ、その Service Name をクリックして Overview タブに移動します。
-
リソースの配分 の右側にある Modify をクリックして リソースを修正する ページを開き、設定を構成します。
重要リソースを変更すると、サービスが再起動され、一時的に中断されます。
モデルネットワークの管理
ネットワーク設定 タブには、現在内部ネットワーク経由でこのモデルサービスにアクセスできる VPC 環境が表示されます。ネットワーク設定 タブでは、モデルサービスにアクセスするための VPC を追加または管理できます。
-
大きなモデルサービス リストで、対象のモデルサービスを見つけ、その Service Name をクリックして Overview タブに移動します。
-
ネットワーク設定 タブをクリックすると、プライベートネットワーク経由でモデルサービスにアクセスできる VPC 環境を表示できます。
-
アクセス範囲を拡張するには、ネットワークの追加 を使用して、より多くの VPC 環境がプライベートネットワーク経由で DataWorks にデプロイされたモデルサービスにアクセスできるようにします。
ネットワークを追加する際には、VPC と vSwitch を指定する必要があり、VPC の Status が 利用可能 になると、その VPC からモデルサービスにアクセスできます。
説明-
課金:モデルサービスに VPC を追加すると、システムは選択した VPC に PrivateLink エンドポイントを作成して、DataWorks リソースグループとのネットワーク接続を確立します。同時に、新しいプライベートドメイン解決レコードがプライベートホストゾーンに追加されます。このプロセスにより、インスタンス料金、データ処理料金、ドメイン名解決料金が発生します。詳細については、「PrivateLinkの課金」および「プライベートホストゾーンの課金」をご参照ください。
-
制限:単一のモデルサービスに最大 3 つの VPC を追加できます。
-
-
特定の VPC からモデルサービスへのアクセスが不要になった場合は、モデルサービス詳細ページで対象の VPC 環境の Delete をクリックします。
モデルサービスから VPC を削除すると、その VPC に作成された PrivateLink エンドポイントも削除されます。
API キーの管理
API キーは、呼び出し元を認証し、その権限を検証するための認証情報です。サービスのすべての API キーを API キー タブで管理できます。
-
大きなモデルサービス リストで、目的のモデルサービスを見つけ、その Service Name をクリックして Overview タブに移動します。
-
API キー タブに切り替えて、APIキーの作成、管理、使用を行います:
-
API キーの追加: モデルサービスがデプロイされると、プラットフォームには他の DataWorks モジュールから呼び出すための組み込み API キーが含まれます。サービスの
endpointを使用して他の環境からサービスモデルを呼び出すには、新規APIキーの追加 をクリックして新しい API キーを作成します。異なるアプリケーションシナリオ用に個別の API キーを作成することを推奨します。
-
API キーの表示:目的の API キーの Operation 列で View をクリックし、次に Copy をクリックして API キーを取得します。
-
API キーの削除: DataWorks API キーは、Disable および Delete 機能をサポートしています。
重要有効な API キーをDisableまたはDeleteする前に、潜在的な影響を評価してください。API キーがDisableまたはDeleteされると、その API キーを使用してモデルを呼び出すすべてのタスクは失敗します。
Disable または Delete 操作は、約
5 分後に有効になります。
-
ログの表示
「モデルサービス詳細」ページで ログ タブに切り替えると、モデルサービスの操作ログが表示され、サービス呼び出しエラーやパフォーマンスの問題のトラブルシューティングに役立ちます。
次のステップ
モデルがデプロイされたら、モデルを使用して関連タスクを開発できます。
仕組み
次の図と説明は、モデルサービスがどのように呼び出されるかを説明しています。
DataWorks リソースグループにモデルサービスをデプロイするか、VPC を設定すると、システムは自動的に次のアクションを実行します。
-
VPC 間接続を確立するために、システムは VPC (DataWorks リソースグループに接続できるアカウント内の VPC) に PrivateLink エンドポイントを自動的に作成し、DataWorks リソースグループ VPC 内の PrivateLink エンドポイントサービスとの暗号化された通信チャネルを確立します。
この操作により、アカウントに PrivateLink エンドポイントが自動的に作成されるため、アカウントでサービスが有効になっている必要があります。
-
ドメイン名解決を設定するために、モデルサービスに関連付けられた VPC で DNS 解決ルールが自動的に設定され、VPC 内の DNS リクエストが DataWorks モデルサービスに転送されます。
この操作により、アカウントにプライベートホストゾーンサービスが自動的にデプロイされるため、アカウントでサービスが有効になっている必要があります。