DataWorks の大規模モデルサービスは、効率的なデプロイ、安全な通信、便利な呼び出しをワンストップで提供します。DataWorks のサーバーレスリソースグループにモデルを簡単にデプロイし、データ開発タスクで直接呼び出すことができます。すべてのトラフィックは PrivateLink で確立されたプライベートネットワークチャネルを介して送信されるため、データがプライベートネットワークから出ることなく、効果的にデータセキュリティを保護します。
サポート対象モデル
|
カテゴリ |
モデル |
説明 |
|
大規模言語モデル |
Qwen3-32B |
Qwen3 は Qwen シリーズの最新世代の大規模言語モデルで、一連のデンスモデルと混合エキスパート (MoE) モデルを提供します。広範なトレーニングに基づき、Qwen3 は推論、指示追従、エージェント機能、多言語サポートにおいて画期的な能力を発揮します。モデルの詳細については、「推奨モデル」をご参照ください。 重要
|
|
Qwen3-14B |
||
|
Qwen3-8B |
||
|
Qwen3-4B |
||
|
Qwen3-1.7B |
||
|
Qwen3-0.6B |
||
|
Qwen3-Embedding-8B |
||
|
Qwen3-Embedding-4B |
||
|
Qwen3-Embedding-0.6B |
||
|
DeepSeek-R1-0528-Qwen3-8B |
DeepSeek はトレーニング中に強化学習を多用し、最小限のラベル付きデータでモデルの推論能力を大幅に向上させます。モデルの詳細については、「推奨モデル」をご参照ください。 |
|
|
DeepSeek-R1-Distill-Qwen-1.5B |
||
|
DeepSeek-R1-Distill-Qwen-7B |
||
|
DeepSeek-R1-Distill-Qwen-14B |
||
|
埋め込みモデル |
BGE-M3 |
BGE-M3 は、デンスリトリーバル、マルチベクトル検索、スパース検索をサポートする汎用埋め込みモデルです。短いテキストから最大 8,192 トークンまでの入力を処理でき、100 以上の自然言語をサポートします。 |
|
BGE-Large-zh-v1.5 |
BGE Embedding は汎用埋め込みモデルです。モデルの事前学習に RetroMAE を使用し、その後、大規模なペアデータで対照学習を行います。 |
大規模モデルサービスの機能
迅速なデプロイ:簡素化された起動プロセス
ビジュアルインターフェイスガイドを使用すると、ローコード操作で事前学習済みモデルをデプロイできます。インフラストラクチャコードを記述する必要はありません。いくつかの簡単な設定手順だけでモデルサービスを作成・公開でき、モデルデプロイのハードルを下げます。
安全なプライベートネットワーク通信:サービス分離の確保
DataWorks の大規模モデルサービスは、DataWorks のサーバーレスリソースグループにフルマネージドモードでデプロイされます。VPC 間のプライベートネットワーク通信は、PrivateLink と Private Hosted Zone に基づいて確立され、ネットワーク分離を実現します。VPC プライベートネットワークを介してフルマネージドモデルにアクセスし、モデルサービスのセキュリティを確保できます。
-
ネットワーク分離通信:PrivateLink は、お使いの VPC と DataWorks のリソースグループ VPC との間に専用の接続チャネルを確立し、トラフィックをパブリックネットワークに公開することなく、安全な分離を実現します。
-
プライベートドメイン名解決:Private Hosted Zone はプライベートドメイン名解決を提供し、プライベートドメイン名の転送ルールを自動的に設定することで、VPC 内からドメイン名で直接モデルサービスにアクセスできるようになります。
自動接続:シームレスな呼び出し
DataWorks のサーバーレスリソースグループにモデルサービスをデプロイするか、VPC を設定すると、システムは次の操作を自動的に実行します:
-
VPC 間接続を確立します。お使いの VPC (DataWorks のリソースグループに接続されているアカウント配下の VPC) で、システムは自動的に PrivateLink エンドポイントを作成し、DataWorks のリソースグループ VPC 内の PrivateLink サービスとの間に暗号化された通信チャネルを確立します。
-
ドメイン名解決を設定します。モデルサービスの設定で指定された VPC にドメイン名解決ルールが自動的に設定され、VPC 内のドメイン名リクエストが自動的に DataWorks のモデルサービスに転送されます。
モデルの呼び出しプロセス
ドメイン名を介してモデルサービスの呼び出しを開始すると、次のようになります:
-
リクエスト解決:VPC 内の DNS リクエストは Private Hosted Zone で解決され、DataWorks のリソースグループ VPC のプライベート IP アドレスを特定します。
-
トラフィック転送:リクエストは、PrivateLink で確立された専用チャネルを介して、お使いの VPC から DataWorks のリソースグループ VPC へ安全に送信されます。
-
サービス応答:リクエストは DataWorks のリソースグループ VPC 内のモデルインスタンスに到達し、そこで推論計算が完了して結果が返されます。
呼び出しプロセス全体はプライベートネットワーク環境内で実行され、パブリック IP アドレスを公開することなく、モデルサービスのセキュリティと制御性が保証されます。
モデルのデプロイと使用
DataWorks では、タスク開発用にモデルを選択してデプロイできます。
サードパーティモデル
事前学習済みモデルのデプロイに加えて、DataWorks の大規模モデルサービスはサードパーティモデルサービスの登録もサポートしています。外部のモデルプロバイダー (Bailian など) の API を DataWorks に接続できます。登録とアクティベーション後、DataWorks のタスク内でサードパーティモデルを統一された方法で呼び出すことができます。
大規模モデルサービス ページの [サードパーティモデル] タブに切り替えます。以下の操作が可能です。
-
モデルサービスの登録:モデルプロバイダー、モデル名、サービス名、API キーなどの情報を提供して登録します。
-
モデルサービスの管理:登録済みのサードパーティモデルサービスを有効化、無効化、変更、または削除します。
サードパーティモデルサービスは、DataWorks のサーバーレスリソースグループのリソースを消費しません。実際のコストは、対応するモデルプロバイダーによって請求されます。